AGI 2027? - GDP 1890
AGI in 2027
tech | Scott Aaronson | 8 jun 24
Scott Aaronson is tamelijk briljant, en hij is lyrisch over dit boek van 167 pagina's, door Leopold Aschenbrenner. Beiden werkten voor OpenAI. Het gaat niet over 'gaat AI ons allemaal in paperclips veranderen,' maar meer: 'Als China als eerste AGI bereikt, dan winnen ze wereldhegemonie.' AGI staat voor 'Artificial General Intelligence,' als een computer net zo slim is als een mens.
Aschenbrenner eindigt met een citaat van James Chadwich, de Nobelprijswinnaar die in 1941 waarschuwde voor de onvermijdelijkheid van de atoombom.
'Ik herinner me het voorjaar van 1941 als de dag van gisteren. Ik besefte toen dat een atoombom niet alleen mogelijk was - maar onvermijdelijk. Vroeg of laat zouden wij niet meer de enigen zijn met deze concepten. Het zou niet lang meer duren voordat iedereen erover begon na te denken, en een of ander land zou ze in praktijk brengen ... en er was niemand om erover te praten. Ik had er slapeloze nachten van. Maar ik zag toen hoe vreselijk dit kon zijn. Toen moest ik wel slaappillen gaan nemen. Ik ben er nooit meer mee gestopt. Het is 28 jaar geleden, en ik geloof niet dat ik in al die 28 jaar een nacht heb overgeslagen.'
Aschenbrenner is bang, 'Omdat het allemaal heel dichtbij voelt, heel dichtbij. Een paar jaar geleden nam ik deze ideeën wel serieus maar ze waren altijd abstract, veilig opgesloten in modellen en schattingen van waarschijnlijkheid. Nu voel ik het, in mijn botten. Ik kan het zien. Ik kan zien hoe AGI zal worden gebouwd. (...) ik voel het, in mijn botten.'
En wat is er dan zo erg?
AGI, denkt hij, is zeer plausibel in 2027. Als je ziet hoe GPT-2 in vier jaar tijd tot GPT-4 is geworden, en als je die trend doorzet, dan kun je eenzelfde kwaliteitssprong verwachten over vier jaar - dus 2027. Vervolgens: AGI houdt dan niet op, bij het denkniveau van mensen. Honderden miljoenen AGI's kunnen het onderzoek naar AI zelf organiseren. Dat verhoogt de snelheid nog verder. AI van menselijk niveau naar bovenmenselijk niveau.
'Deze door techniek en kapitaal gedreven ontwikkeling is al begonnen. Als de omzet uit AI snel groeit, gaan er biljoenen dollars in investeringen, dit decennium. De hele Amerikaanse industrie zal erachter worden gezet.'
Maar niemand denkt over beveiliging. 'De sleutels tot AGI worden op een zilveren dienblaadje aan de Communistische Partij van China overhandigd.' Superintelligentie geeft een overweldigende economische en militaire voorsprong. (...) Beseffen we dit? Kunnen we onze voorsprong op autoritaire regimes beschermen?"
ook belangrijk | Brilliant Maps | 3 mrt 23
