Kunstmatige Intelligentie (2)
Kunstmatige Intelligentie (2)
Na mijn bijdrage van vorige week stuurde H. van Tijen een link naar een WaitButWhy uit 2015 – zeven jaar oud alweer, maar nog steeds een geweldig stuk uitlegjournalistiek. Het is bij elkaar een kleine 80 pagina’s A4 schat ik, maar Tim Urban is een groot didacticus. Ik ga het hier niet samenvatten, maar geef wel de redenen door die hij geeft, waarom iedereen zich in AI zou moeten verdiepen. Neem binnenkort een ochtend, of een middag of avond, om dit allemaal te lezen. Echt, dit is enger dan klimaatverandering.
‘Stel je voor dat je iemand in 1988 een computer met internet zou laten zien, en zou zeggen: ‘dat ding gaat binnen enkele decennia de hele wereld veranderen,’ dan zou iemand naar die plastic doos kijken en denken: ‘Dát?’ Wij hebben allemaal de grootste moeite ons dingen voor te stellen die we niet kunnen zien.’ (Denk ook aan de film ‘Don’t Look Up,’ over die naderende meteoriet.)
Bijkomende probleem is de ‘Wet van de groeiversnelling,’ een vondst van futuroloog Ray Kurzweil: hoe geavanceerder een samenleving, hoe sneller de ontwikkeling. Het verschil tussen 2000 en 1750 is veel groter dan dat tussen 1750 en 1500. Niet zo dramatisch als exponentiële groei, maar het komt in de buurt. ‘Het duurt tientallen jaren voor het eerste AI systeem een laag soort van algemene intelligentie bereikt, maar eindelijk gebeurt het. Dan begrijpt een computer de wereld om zich heen net zo goed als een vierjarig mensenkind.’ (Dat is het begin van AGI, Artificial General Intelligence.) ‘Plotseling, een uur nadat die mijlpaal is bereikt, produceert dat systeem de overkoepelende theorie voor de natuurkunde waarin de relativiteitsleer wordt verenigd met quantummechanica, iets waar geen enkele mens tot nu toe in geslaagd is. Negentig minuten later is de AI een ‘ASI’ (Artificial Superintelligence) geworden, 170.000 keer intelligenter dan de mens.’
‘Superintelligentie van die orde is iets wat wij nooit kunnen bevatten, net zomin als een bromvlieg ooit iets zal begrijpen van Keynesiaanse economie.’
Een ASI kan natuurlijk veel sneller denken dan een mens. Maar mensen zijn niet slimmer dan chimpansees omdat ze sneller denken – het mensenbrein bevat allerlei cognitieve modules waarmee het dingen kan doen die een aap niet kan zoals abstract denken, lange-termijn plannen maken. Een intelligent systeem gaat niet alleen sneller denken, het leert zichzelf ook beter te denken. De AI gaat van AI naar AGI naar ASI niet alleen door feiten en handelingen en processen te leren, maar vooral door zichzelf te leren leren. ‘En aangezien we net geconcludeerd hebben dat we onmogelijk kunnen begrijpen wat een machine kan die twee stapjes verder is dan wij, laten we er niet omheen draaien en vaststellen dat we godsonmogelijk ooit kunnen weten wat een ASI gaat doen of wat de consequenties zijn.’
In deel 2 schetst Tim zijn nachtmerrie: hoe een onschuldige ASI de mensheid zou kunnen uitroeien. Dit is meesterlijk. Grappig en huiveringwekkend tegelijk. De ASI heeft maar één opdracht: ‘Schrijf briefjes, in handschrift, met de tekst ‘wij houden van onze klanten.’‘ De computer leert en leert en …. zijn ultieme, puur logische laatste stap is het doden van alle mensen op aarde …
(U kunt ook Nick Bostrom lezen, een van de vele bronnen voor dit verhaal. Maar Tim Urban gebruikt veel meer bronnen, en is een stuk toegankelijker. Met plaatjes!)