Wat te doen?

Hoe voorkomen we a) dat AGI de mensheid overstijgt en gaat domineren, misschien uitroeien? en b) dat foute mensen de AI inzetten voor foute doelen?

R. Dattatreya stuurde een bedachtzame lezing van Centre for Humane Technology; die toont heel duidelijk hoe we, met de beste bedoelingen, de sociale media hebben ontwikkeld tot ze een negatieve invloed werden in onze samenleving. Dus hoe makkelijk het is om hetzelfde te laten gebeuren met AI. Prima. Maar hoe voorkomen we zo’n herhaling?

Voor die eerste vraag, a): zie ‘Eng?’ Misschien niet zo urgent. Voor de tweede vraag, b):

Zoals gezegd, pionier Geoff Hinton heeft geen oplossing anders dan ‘we moeten ons best doen.’ Marietje Schaake zegt in de FT ‘dat ontwikkelaars en politici meer hun best moeten doen elkaar te begrijpen.’ Dat is al een bescheiden ambitie, maar zal op zijn best alleen de mensen van goede wil verenigen. Niet de dictators, chanteurs en terroristen.

Lezer A. Fellendans schrijft: ‘Is het werkelijk ondenkbaar dat nog betere AI andere AI kan gaan ontmaskeren, bijvoorbeeld doordat we er in slagen nog beter te begrijpen hoe wij zelf denken, selecteren, kiezen, geloven en al die andere activiteiten die onze hersenen door evolutie hebben geleerd?’

Dat is misschien een hoopvolle richting: de wapenwedloop is onvermijdelijk, dus laten we ervoor zorgen dat de knapste koppen aan onze kant blijven staan.