Te slimme AI

Te slimme AI

De automatische piloot van een vliegtuig is ‘top-down’ ontworpen: alle situaties van tevoren bedacht en respons geprogrammeerd, met een backup en nog een tweede backup. Zelfrijdende auto’s worden nu ontwikkeld met ‘bottom-up’ technologie: zelflerende computers die middels deep learning kennis opdoen die ze gebruiken in onbekende, niet vooraf geprogrammeerde situaties. In het verkeer, waar zich talloze onvoorspelbare scenario’s voordoen, is dat onmisbaar. Maar hoe slimmer de computers worden, hoe vaker ze ons verrassen. AlphaGo, de Google computer die de wereldkampioen Go versloeg, had op zeker moment een zet die zijn tegenstander zo verraste dat hij de kamer moest verlaten om weer tot rust te komen. Hij dacht dat het onwaarschijnlijk stupide was; achteraf bleek het een geniale zet te zijn.  Maar soms trekt AI de verkeerde conclusie uit beschikbare data. Wij zijn op dit moment niet in staat om dit soort computerfouten, met mogelijk desastreuze gevolgen, te voorkomen. En de computers worden iedere dag slimmer. Facebook liet twee computers met elkaar praten totdat ze begonnen te praten in een taal die alleen zij begrepen – en de mensen niet.