AI voortgang

AI voortgang

Analyse van bericht van Greg Brockman, president van OpenAI, verstuurd eind vorige week. (Met aanvullend commentaar van AI Explained). Een paar krenten:

De AI’s tot nu toe hebben nog niet het hele internet opgeslokt. Een schatting is dat ze tot nu toe een tiende van alle beschikbare data hebben verwerkt.

De meest deskundige mensen onderschatten telkens weer de snelheid waarmee AI’s zich verbeteren. Ze zijn zich bewust van hun cognitieve bias (die alle mensen hebben: wij vinden het heel moeilijk om exponentiële groei te bevatten. Denk aan de rijstkorrels op het schaakbord) en toch slaan ze de plank mis. Wanneer bereikt AI een bepaald niveau van vaardigheid in wiskunde? De gemiddelde schatting was vier jaar; het werd minder dan 1 jaar. (op 05’25”)

Gaat AI ons uitroeien? Brockman sluit die mogelijkheid niet uit. Hij praat over de risico’s, en gevaren. Net als de meeste van zijn vakbroeders. In een grote peiling onder ML onderzoekers zei de helft dat er een kans is van 10% of meer dan AI het voortbestaan van de mensheid bedreigt. Oftewel: vliegtuigingenieurs zeggen dat er 10% kans is dat hun vliegtuig neerstort. ‘Zou je aan boord van zo’n toestel gaan?’ (06’05”)

Misschien hebben we nog een beetje bedenktijd: één van de ontwikkelaars van Stable Diffusion (‘schrijf een verzoek, de AI maakt een afbeelding’) zegt: het duurt nog zeker zes tot negen maanden voordat er een opvolger komt van GPT-4 en dat is simpelweg omdat er niet voldoende processoren beschikbaar zijn. Zo veel tijd is er nodig om ze te installeren, in te branden en te optimaliseren. (09’35”). En OpenAI zegt zelf dat het de introductie van GPT-4 zes maanden heeft opgehouden om veiligheidstests te doen. Brockman zegt dat ze verbeteringen stapsgewijs willen doorvoeren; niet een enorme sprong maken naar GTP-5 of zoiets.

GPT-4 wordt ook steeds ‘gehoorzamer.’ Hij reageert steeds beter op ‘gevoelige’ (welk medicijn moet ik nemen?’) en ‘verboden’ (‘hoe maak ik een chemische bom?’) vragen. Twee keer zo goed als GPT-3.5.