Zorgen in AI-land

Waarom moest Altman weg?

tech |Tomas Pueyo| 23 nov 23

OpenAI heeft de doos van Pandora nog verder geopend, superieure AI's zijn ontwikkeld en dreigen te worden gelanceerd voordat ze grondig zijn bestudeerd en op veiligheid getest. Daarom maakte de raad van bestuur zich zorgen over Sam Altman. Persbureau Reuters schreef vorige week: 'Voordat Altman werd verbannen schreven verschillende werknemers een brief aan de raad van bestuur waarin ze waarschuwden dat er een belangrijke AI ontdekking was gedaan die de mensheid zou kunnen bedreigen. (...) Deze brief werd door anonieme bronnen als een van de redenen van het bestuur bestempeld, die bij elkaar hadden geleid tot het besluit hem te ontslaan.'

'In een intern memo erkende OpenAI dat er een project was genaamd Q* (Q-ster) dat een doorbraak zou kunnen vormen in de zoektocht naar 'Algemene Kunstmatige Intelligentie (AGI),' schrijft Reuters. Dit nieuwe model kon wiskundige problemen oplossen. Dit is significant. Generatieve AI kan goed schrijven door statistisch het volgende woord in een zin te voorspellen. Maar wiskunde is iets heel anders - iedere vraag heeft maar één goed antwoord. Kansberekening en statistiek spelen geen rol. Als een AI wiskunde kan doen, dan zou dat betekenen dat hij kan redeneren op een niveau dat dat van mensen benadert. Dat hij kan generaliseren, leren en begrijpen.

Dus misschien ging Altman te hard van stapel. Of - maakten de bestuurders zich te veel zorgen?

Dit is de andere kant van het debat (en nog steeds weet niemand waarom het bij OpenAI is geëscaleerd). Opvallend is dat Nick Bostrom, schrijver van 'Superintelligence,' die als een van de eersten waarschuwde voor de gevaren van een superAI, onlangs een ommezwaai maakte. Hij zei: ik maak me meer zorgen over de inspanningen die gedaan worden om de ontwikkeling van AI te vertragen, dan over de risico's van AI zelf.

Probleem is, in de woorden van een andere tech-commentator, Noah Smith: de waarschuwers hebben misschien wel gelijk dat we ons zorgen moeten maken maken, maar ze bieden geen oplossingen. Niks anders dan 'zet dat ding uit!'

Het idee dat een bedrijf dat AI ontwikkelt niet verantwoording zou moeten afleggen aan beleggers en aandeelhouders, maar aan 'de mensheid,' is lovenswaardig. (Ook weer heerlijk dat dit niet in Nederland, Zweden of Moskou is bedacht maar in Californië, het experimentele filiaal van het kapitalistische bolwerk dat de VS heet.) Maar er zullen buiten Californië altijd mensen in de wedstrijd zijn die door minder nobele motieven worden gedreven. Dus moet je als idealist dan toch maar niet meedoen? Zodat de good guys nog een kans krijgen? En was het ideaal al niet geparkeerd op het moment dat Microsoft zijn eerste miljard dollar overmaakte?