Hoe voorkomen we a) dat AGI de mensheid overstijgt en gaat domineren, misschien uitroeien? en b) dat foute mensen de AI inzetten voor foute doelen?
R. Dattatreya stuurde een bedachtzame lezing van Centre for Humane Technology; die toont heel duidelijk hoe we, met de beste bedoelingen, de sociale media hebben ontwikkeld tot ze een negatieve invloed werden in onze samenleving. Dus hoe makkelijk het is om hetzelfde te laten gebeuren met AI. Prima. Maar hoe voorkomen we zo’n herhaling?
Voor die eerste vraag, a): zie ‘Eng?’ Misschien niet zo urgent. Voor de tweede vraag, b):
Zoals gezegd, pionier Geoff Hinton heeft geen oplossing anders dan ‘we moeten ons best doen.’ Marietje Schaake zegt in de FT ‘dat ontwikkelaars en politici meer hun best moeten doen elkaar te begrijpen.’ Dat is al een bescheiden ambitie, maar zal op zijn best alleen de mensen van goede wil verenigen. Niet de dictators, chanteurs en terroristen.
Lezer A. Fellendans schrijft: ‘Is het werkelijk ondenkbaar dat nog betere AI andere AI kan gaan ontmaskeren, bijvoorbeeld doordat we er in slagen nog beter te begrijpen hoe wij zelf denken, selecteren, kiezen, geloven en al die andere activiteiten die onze hersenen door evolutie hebben geleerd?’
Dat is misschien een hoopvolle richting: de wapenwedloop is onvermijdelijk, dus laten we ervoor zorgen dat de knapste koppen aan onze kant blijven staan.
Eng? Of toch niet?
‘Van de AI experts zei de helft dat er een kans was van 10% of meer dat AGI de mensheid zou uitroeien.’ Dat is enigszins gesimplificeerd de waarschuwing die de laatste weken overal wordt geciteerd. ‘Zou u in een vliegtuig stappen waarvan de helft van de vliegtuigbouwers zegt dat er een 10% kans is dat hij neerstort?’ was de beste vertaling. Maar klopt deze conclusie uit een peiling?
Die peiling werd gedaan door een neutrale instelling. Die benaderde 4.271 mensen die twee of meer werkstukken hadden gepubliceerd op twee belangrijke conferenties over AI. Daarvan antwoordden 738 mensen (17%). Ze beantwoordden niet allemaal alle vragen. De hamvraag (zoals hierboven samengevat) kreeg slechts 162 antwoorden. Dus 81 mensen (de helft) is bezorgd. Maar zijn die 81 representatief voor de groep van 4.271? Zijn het de slimste, of de domste uit hun onderzoeksgroep? Is er niet ook bias – zijn niet juist de meest bange mensen geneigd deze vraag te beantwoorden? (meer dan 80% beantwoordde de vraag niet, om wat voor reden ook.)
Betaalmuren
Lezer B. Boenk tipte: “Het werkt niet altijd, maar wel vaak: Www.12ft.io
Site doet zich voor als een crawler en aanbieders staan dat toe om te zorgen dat hun content vindbaar blijft. Volledig legaal!”
De naam wordt uitgelegd op die site: ‘Show me a 10ft paywall, and I’ll show you a 12ft ladder.’ Je plakt http://www.12ft.io/ vóór de URL – of je gaat naar de website www.12ft.io en plakt de URL in de balk aldaar. Hoe kan dit? Volgens de website: ‘News sites want Google to index their content so it shows up in search results. So they don’t show a paywall to the Google crawler. We benefit from this because the Google crawler will cache a copy of the site every time it crawls it. All we do is show you that cached, un-paywalled version of the page.’
Peetvader AI neemt ontslag
Geoff Hinton, één van de pioniers van Kunstmatige Intelligentie (AI), heeft ontslag genomen bij Google. De 75-jarige zegt dat hij vrij wil kunnen spreken over de gevaren van de zelflerende computer. Hij was het grootste deel van zijn leven wetenschapper, totdat een bedrijfje dat hij met twee van zijn studenten had opgericht tien jaar geleden werd gekocht door Google. Hij benadrukt dat hij geen kritiek wil hebben op Google. Maar concurrentie bracht het bedachtzame beleid van Google in gevaar: toen Microsoft de zoekmachine Bing verrijkte met de AI van OpenAI, ging Google op ‘code rood.’ Hinton zegt: dit houd je niet tegen, en als we niks doen komen we in een wereld van kunstmatige beelden en tekst waarin niemand meer weet wat echt is en wat niet. En: ‘Het is moeilijk te zien hoe we mensen met slechte bedoelingen ervan kunnen weerhouden dit in te zetten voor slechte doelen.’ Wat kunnen we doen? Een non-proliferatieverdrag, zoals met atoombommen? Maar AI kun je ontwikkelen zonder dat iemand het ziet. Het meest zorgelijke van dit gesprek is dat Hinton niet verder komt dan ‘wetenschappers moeten met elkaar afspreken zich in te houden.’ (Dit is een verwijzing naar een interview in de NY Times, maar dat staat waarschijnlijk achter een betaalmuur). (tip A. Kaizer)
Hoe werkt het nou?
Dit is het enige artikel dat ik heb gevonden dat uitlegt hoe kunstmatige intelligentie nu werkt, en het enige dat ik ook begrijp. Die computer (althans, een aantal programma’s die draaien op verschillende enorme servers) leest geen woorden; hij zet ze om in ‘tokens’ en dat heet tokenisation. Dan worden ze ‘embedded’ in groepen met verwante begrippen. De AI moet miljarden keren oefenen voordat hij snapt welke woorden met elkaar verwant zijn. Taal is een collectie ‘weights.’ Voor die AI zijn het nooit woorden; meer statistische waarschijnlijkheden. Dan formuleert hij een antwoord door middel van ‘autoregression.’ Enfin, hopelijk maakt dit u nieuwsgierig.
(The Economist is erg zuinig op dit verhaal, ook al is het alweer tien dagen oud. Abonnees kunnen het niet eens delen met buitenstaanders. Dus ik kan alleen de link achter de betaalmuur geven.)
Wagner in Soedan
Zeer verhelderende analyse van het conflict in Soedan en de rol van de Wagner Groep daar, en dus indirect de rol van Vladimir Poetin. Door voormalig eindredacteur ‘Afrika’ van de BBC World Service. (Wagner is overigens behalve in Soedan ook aan het vechten in Mali, Burkina Faso, Tsjaad en Libië.) In ruil voor wapens vraagt Wagner geld of mijnbouwvergunningen; in het geval van Soedan ook goudstaven. Volgens CNN is er tussen 2017 en 2022 voor 13,4 miljard dollar aan goud naar Latakia in Syrië gevlogen, in Russische legervliegtuigen. (Bloomberg schat de waarde op 4 miljard dollar.) Dit transport werd verzorgd door Meroe Gold, een dochtermaatschappij van M-Invest, eigendom van Wagner-baas Yevgeni Prighozin. De klant, de opdrachtgever, was Mohamed Hamdan Dagalo, beter bekend als Hemedti, hoofd van de paramilitaire ‘Rapid Support Forces,’ die zich nu openlijk tot vijand van de generaal heeft verklaard.
Terra incognita
Meer dan 19.000 onderzeese vulkanen zijn recent in kaart gebracht met behulp van satellieten. Niet grote bergen – nee vulkanen, joekels van 4.000 meter of meer. Omdat ze niet bekend waren botsten dure onderzeeboten ertegenop. Dat was een goede reden om onderzoek te financieren. In 2011 werden 24.000 vulkanen op de oceaanbodem ontdekt. Het nieuwe onderzoek brengt nog eens 19.000 in kaart. De overgrote meerderheid is niet met sonar – dieptemetingen vanaf een schip – gevonden. Omdat de oceanen zo uitgestrekt zijn.
Wie maakt de meeste?
Elektrische auto’s. Wereldproductie 10,3 miljoen vorig jaar, tegen 6,7 mln in 2021. Toename 54%, maar nog steeds marginaal. Snelste groeiers allemaal in China.
Unwoke-ing
Vier grote en invloedrijke universiteiten in de VS hebben de afgelopen maand krachtig stelling genomen voor vrijheid van meningsuiting, en tegen intolerantie. ‘Als we niet erkennen dat student-leden van de Federalist Society en andere conservatieven net zo goed het recht hebben om hun mening te uiten, zonder bang te zijn voor bedreigingen, dan volgen we niet onze eigen beginselverklaring (voor academische vrijheid) en kunnen we niet beweren dat we een ‘inclusieve’ omgeving aanmoedigen voor alle studenten,’ schreef de president van de Stanford Law School vorige maand. Leiders van Cornell, Harvard en Vanderbilt universiteiten namen op dezelfde manier stelling. Geen landelijke aardverschuiving, wel een begin. Ze veroordelen alle vier intolerantie, of die nu van links of van rechts komt.(betaalmuur)