Waar staat GTP-4?

Waar staat dat ding eigenlijk? Kun je er naar kijken? Is het een soort server? Hoe groot dan? Gelukkig was er iemand in Australië die zich dat ook afvroeg. Het antwoord: in West Des Moines, Iowa. Daar staat een datacenter met 285.000 CPU cores, 10.000 GPU’s die aan elkaar gekoppeld zijn tot een supercomputer, die dag en nacht draait. Eigendom van Microsoft, aandeelhouder in OpenAI, gebouwd voor OpenAI, om Kunstmatige Intelligentie te ontwikkelen. (Microsoft heeft nog vier andere datacenters in die stad, bij elkaar 320.000 m2, vier miljard dollar aan investeringen.) Die machines verwerken dus de vragen die worden gesteld door de ontwikkelaars van OpenAI in San Francisco (en na de onthulling, overal ter wereld) en volgens protocollen die steeds worden bijgeschaafd.

(screenshot van YouTube)

Sam Altman (OpenAI)

Interview met Sam Altman (37), mede-richter van OpenAI, door Lex Fridman, prof computerwetenschappen bij MIT. Een gesprek van 2,5 uur tussen gelijkwaardigen.

Wat het meeste opvalt is hoe weinig Altman zegt over de echt enge kanten van AI. We hebben geen idee hoeveel mensen en bedrijven op dit moment werken aan het bouwen van AI-modellen. Maar het zijn er tientallen, honderden, duizenden. Hoe ziet een Islamitische AI er uit? Een Russische? Een Israelische? Een … Chinese? Mensen met slechte bedoelingen zullen hun eigen AI ontwikkelen; misschien aan het werk zetten om disinformatie te verspreiden. Op zijn minst.

Altman heeft geen idee hoe dit onder controle te houden.

Ze praten veel over het andere risico: dat de AI al lerende zich ontwikkelt tot een Artificial General Intelligence (AGI), oftewel een ‘computer’ die slimmer is dan wij, met het risico dat die de mensheid zal uitroeien of knechten. Kunnen we waarborgen dat deze AGI, als hij komt, zal handelen in het belang van de mensheid? Hoe doe je dat? Ook hier heeft Altman geen antwoord op.

Het is fantastisch dat OpenAI zo’n ethisch bedrijf is. Wat een zegen! ‘Publiekelijk fouten maken,’ oftewel failing in public is de leidraad. Mensen laten meekijken. Twijfel is goed. Snel en toch behoedzaam werken: GTP-4 was al klaar vorige zomer, toch hebben ze dit wonder acht maanden voor zichzelf gehouden om te testen op zwakke plekken, voor de onthulling. OpenAI heeft een tweetraps bestuursstructuur waarin de beslissende stem wordt uitgebracht door een stichting zonder winstoogmerk. Dus geld is bij OpenAI geen drijfveer. Maar bij al die andere bedrijven ….

Een paar krenten:

‘Wij begrijpen niet altijd waarom het model dit doet, en niet dat.’ (00:13:33) Heeft GTP-4 kennis of wijsheid? ‘Door al deze kennis te absorberen komt hij op enig moment op een punt waar hij in staat is te redeneren’ (00:15:20)

Het is een verademing om te zien hoe GPT-4 nuance en evenwichtigheid in ere herstelt, zegt Fridman. Als je vraagt ‘Kwam Covid nu uit de natuur of uit een laboratorium?’ dan somt hij alle theorieën voor het een en het ander op, weegt ze op hun merites, en concludeert dat noch de ene, noch de andere stelling veel direct bewijs heeft. (1:52:50)

Heeft een AGI een lichaam nodig, om menselijke intelligentie te kunnen evenaren?  (01:10:30)

(ook te beluisteren als podcast, zoek Lex Fridman)

Offensieven

Mick Ryan, gepensioneerd Australisch generaal, is één van de productieve en deskundige schrijvers over de oorlog in Oekraïne. Hij schrijft: het Oekraïense offensief is nabij; het worden meerdere offensieven, in het zuiden en oosten. (En dan wil je ook Kiev extra versterken, denk ik dan.) Dit om de Russen in het ongewisse te laten waar de belangrijkste tegenaanval komt. Het land is bezig drie nieuwe legerkorpsen te vormen (Wikipedia: een korps bestaat uit twee tot vijf divisies, elk 10.000-25.000 man sterk plus ondersteunende diensten. Dus dan gaat het over minimaal 60.000 man en maximaal 375.000.)

Het wordt langzaam en vreselijk moeilijk. Dit zijn de versterkingen die Rusland heeft aangelegd:

Het verbaast me als niet-soldaat telkens hoe gedetailleerd de artikelen van Ryan en andere ex-soldaten  zijn – je zou toch denken dat ze de vijand niet alles aan de neus willen hangen. Maar ik ga er maar van uit dat ze vertellen wat Russen zelf ook kunnen zien met satellieten.

Poetin heft niet gekregen wat hij wilde van Xi. Lawrence Freedman, emeritus prof oorlogskunde aan King’s College in Londen, fileert de gezamenlijke verklaring na de top tussen Poetin en Xi. Die spreekt van ‘alomvattende partnerschap en strategische interactie’ die zich ‘gestaag ontwikkelt.’ “Nou niet precies ‘volle vaart vooruit’,”  is het commentaar van Freedman. In februari 2022 spraken de twee nog van een ‘partnerschap zonder beperkingen’, nu wordt de relatie in vage termen besproken, niet als een ‘militair-politiek bondgenootschap’ van ‘confrontationele aard,’ maar als ‘voorkeurspartners.’

“Dit is een partnerschap met beperkingen,” concludeert Freedman.

China zegt ook nergens expliciet dat het de annexatie van Oekraïne steunt of goedkeurt, of afkeurt. De verklaring herhaalt wel de formulering die vaak is gebruikt door wereldleiders, voor het eerst door Gorbachev en Reagan: ‘In een kernoorlog kunnen er geen winnaars zijn, en dus moet die nooit begonnen worden.’ Relevant, nu Poetin kernraketten in Wit-Rusland wil plaatsen, een paar dagen na deze topontmoeting.

Als Poetin ooit richting een wapenstilstand wil, om wat voor reden ook, zal hij waarschijnlijk als eerste Xi bellen, concludeert Freedman. Rusland is de junior partner.

In dit verhaal ook regelmatig links naar bijzondere bronnen. Verslag van een groep van 300 rekruten uit Omsk, waarvan slechts drie overleefden in Zaporizhia. ‘De commandanten beschouwden ze als kanonnenvlees en dwongen ze onder schot tot zelfmoordmissies.’ En naar Mick Ryan, zie hieronder.

Bericht uit China

Dan Wang is iemand die beroepsmatig China bestudeert, voor de – oorspronkelijk Franse – Gavekal groep die research doet voor beleggers. Ieder jaar schrijft hij een terugblik op gebeurtenissen in China. Zeer intelligent, diepe kennis van China, hoogst evenwichtig.

Hier wat fragmenten.Te weinig, maar hopelijk voldoende om u nieuwsgierig te maken naar het hele artikel.

‘Inderdaad was mijn brief van 2021 gericht op China’s sterke punten, vooral het vermogen om zichzelf te vernieuwen. En ik sta nog steeds sympathiek tegenover het beleid van Beijing om bepaalde soorten van groei voorrang te geven boven andere. De weerzin tegen cryptomunten bijvoorbeeld wordt niet ondermijnd door wat we in 2022 hebben gezien. Ik ben net als de overheid niet erg dol op videogames en sociale media. Ik blijf ervan overtuigd dat Beijing makkelijker zijn instituten kan hervormen dan de VS die niet in staat is om iets op te bouwen.’

‘De lange-termijn groeiverwachting voor China werden in 2022 onzeker. Beijing besloot de kant te kiezen van Rusland, een aggressor, terwijl juist in de VS en Europa de afzetmarkten en technologische kennis te vinden zijn. Beijing ziet Rusland als een bondgenoot, die helpt om de wereld te laten zien dat  autoritaire regimes  bestaansrecht hebben.’

‘Oudere autocraten worden snel nurks. (..) Ik denk dat de partijstaat zal doorgaan met ‘unforced errors’ te maken. Hij heeft immers al veel landen gekwetst met onnodige beledigingen. En is er in geslaagd in het onmogelijke: China’s enorme menselijk kapitaal weg te jagen. China heeft geweldige ondernemers en kunstenaars die de nationale glorie konden brengen waar Xi zo naar smacht. Als ze maar creatief mochten zijn. Iedere middelbare scholier zou een betere propagandist zijn dan het ministerie van Buitenlandse Zaken – als hij maar zijn mond mocht opendoen. Maar er wordt zo veel verprutst door de Marxistisch-Leninisten, die het niet kunnen uitstaan dat er dingen zijn die ze niet onder controle hebben. De partij heeft de afgelopen allerlei groepen van zich vervreemd die gunstig gezind waren: buitenlandse ondernemingen, Europese overheden, artiesten en ondernemers. Ik verwacht dat deze ‘unforced errors’ zullen aanhouden.’

Bill Gates over AI

Hij is net zo overdonderd als iedereen. GTP4 slaagt voor toelatingsexamen biologie studie (‘Dat koos ik omdat de test meer is dan alleen maar feitjes onthouden en reproduceren – je moet ook kritisch kunnen nadenken over biologie’) en geeft ook antwoord op de vraag ‘Wat zeg je tegen een vader met een zoon in het ziekenhuis?’ Daar kwam een bedachtzaam antwoord op ‘dat waarschijnlijk beter was wat de meesten van ons in de kamer hadden kunnen bedenken. De hele ervaring was verbluffend.’

En nu?

Microsoft wil AI integreren in Office. Die kan helpen e-mails te schrijven, de inbox te beheren. Als een soort digitale persoonlijke assistent. Hij onthoudt wat je hebt gelezen, en leest waar je geen zin hebt. Vraag: als de verzekeringsmaatschappij een vraag stelt aan jouw digitale assistent, mag hij die dan beantwoorden zonder jouw toestemming?

Gates ziet AI als een enorme hulp in bedrijfstakken waar te weinig mensen zijn – gezondheidszorg, om maar wat te noemen. Formulieren invullen, verslagjes maken, dossiers bijhouden.

Dit is nog maar het begin. Toch, zegt hij: onze hersenen zijn sloom vergeleken bij een chip. Een elektrisch signaal in onze hersenen beweegt op 1/100.000ste van de snelheid in een chip. Als ze erin slagen om een lerend algoritme te maken dat zo snel werkt als een computer, met een onbeperkt geheugen, heb je een ‘sterke’ AI. Dat kost nog minstens tien jaar, misschien een eeuw. Maar wat dan?

Die sterke AIU’s kunnen hun eigen doelen vaststellen. En wat zouden die zijn? Wat als ze botsen met de belangen van de mensheid?

Maar de doorbraken van de afgelopen maanden komen niet in de buurt van strong AI, zegt Gates (Net als Kevin Kelly, zie de Bickers van vorige week): AI’s hebben geen macht over de fysieke, tastbare wereld en kunnen nog niet zelf hun eigen doelen stellen. (tip R. Leslie)

Het wordt donker

‘Duisternis kruipt over onze wereld,’ schrijft Noah Smith. Melodramatisch, geeft hij meteen toe. Maar wel herkenbaar. Autocratie en antiliberalisme rukken op. Op de dag dat Xi Jinping en Vladimir Poetin hun bondgenootschap verstevigden, op de 20ste verjaardag van de Amerikaanse invasie van Irak, herpubliceert Smith dit essay. Laten we niet vergeten, zegt hij: ‘Het was Amerikaanse dwaasheid die dit allemaal begon. Onze overwinningen in Wereldoorlog 2 en Koude Oorlog 1 gaven de VS een unieke kans om een wereld te bouwen waarin landen niet andere landen binnenvallen. Toen wij Irak binnenvielen zonder reden of provocatie, vergooiden we die kans.’

Lees goed: dit is niet hetzelfde als zeggen dat Poetin is ‘geprovoceerd door de NAVO.’ Maar wel: onze liberale democratie is nog steeds de minst kwalijke manier om een samenleving te organiseren, en dus is het goed als steeds meer mensen zich kunnen ontworstelen aan dwingelandij. Amerika had de kans om moreel leider te zijn, en dat had rust geschapen en een tegenwicht geboden tegen de altijd rusteloze dictators. Maar die kans werd verkwanseld.

Hier weer een paar die ik met plezier heb beluisterd, of waar ik op geabonneerd ben. Vind ze op uw favoriete platform.

‘The Rest is History,’ gepresenteerd door historici Dominic Sandbrook en Tom Holland (auteur van heerlijke boeken als ‘Rubicon,’ over de de laatste dagen van de Republiek van Rome). Toevallig gaan de laatste afleveringen precies over die periode: de aanloop naar de moord op Julius Caesar en hoe die niet de machtsgreep afwendde, zoals bedoeld, maar juist de opmaat was voor autocratie onder keizers. Verder recentelijk over: Ronald Reagan (drie afleveringen), Columbus (vier afleveringen), de Katharen, de Nazi’s (vier afleveringen).

De onvergelijkbare Dan Carlin heeft weer een paar dingen die ik moet luisteren. ‘Twilight of the Aesir,’ volgens de blurb ‘de opvolger van de ‘Thor’s Angels’ podcast’ (2012). Over de neergang van de Vikingen dus. Een Carlineske vijf uur en 14 minuten. Overigens werd Carlin op 9 mei 2022 ook geïnterviewd op ‘The Rest is History.’

‘Next Year in Moscow’ van The Economist: Tien jaar geleden was de Russische middenklasse groter en rijker dan ooit te voren. Toen begon Poetin aan zijn tweede ronde als president. Interviews met Russen nu, na de tweede invasie van Oekraïne.

Zoals altijd: als u wat moois heeft gehoord, hoor ik het graag!

De oorlog

Phillips O’Brien, prof oorlogskunde aan St Andrews U., met een uitdagende stelling: ‘Deze oorlog toont dat het effectiever is om de oorlogsmacht van je tegenstander aan te vallen voordat het tot een veldslag komt – net als in de meeste voorgaande oorlogen. Maar Oekraïne krijgt daar niet de benodigde steun voor. (…) Dus we maken deze oorlog bloederiger, langer en destructiever dan nodig.’

GTP-4

Gisteravond onthuld. Uit de demo: man schrijft concept voor een website (‘flauwe moppen’) op een papieren servetje, maakt een foto, en GPT-4 maakt er met Javascript een werkende website van ….

Of deze (via Jeroen Baert): ‘wat voor maaltijden kan ik hiermee maken?’