Ook niet bang

Al terugbladerend, op zoek naar Kevin Kelly in andere Bickers, kwam ik dit tegen uit 2017. Ook weer sterk beargumenteerd:

‘Intelligentie is niet ééndimensionaal, dus ‘slimmer dan mensen’ is een concept zonder betekenis. Mensen hebben geen brein dat voor alles gebruikt kan worden, en AI’s ook niet. Nabootsen van het menselijk denkproces is te duur. Dimensies van intelligentie zijn niet oneindig. En intelligenties zijn slechts één factor in vooruitgang. Denken is niet voldoende: natuurkundigen moesten nog steeds een Hadron Collider bouwen in Cern om te testen of hun theorie over de Higg’s Boson klopte.’

Niet bang voor AI

Mijn vrienden vragen: ‘Waarom ben ik niet doodsbang? Waarom onderschrijf ik nog steeds niet het Orthodoxe AI doemscenario, waarin een egoïstische AI vroeg of laat (waarschijnlijk vroeg) nanobots ontwerpt die zichzelf vermenigvuldigen en alle mensen over de hele wereld veranderen in plasjes ellende?’

Schrijft Scott Aaronson, theoretisch computer specialist, gespecialiseerd in quantum computing, veelschrijver, indrukwekkend cv (naar universiteit op 16, gepromoveerd op 23, MIT, U. of Texas, nu een jaar bij OpenAI). Als iemand het moet weten ….

Zijn antwoord bekijkt de vraag van verschillende kanten. Bijvoorbeeld: er zijn veel meer, en grotere bedreigingen voor de mensheid zoals klimaatverandering of kernoorlog. Of: je kunt beargumenteren dat AI al heeft bijgedragen aan de ondergang van de Amerikaanse democratie. Immers, zonder Facebook’s aanbeveling-algoritme was Donald Trump nooit president geworden. En hij herformuleert de vraag: ‘Gaat deze AI wedloop een rol spelen in de ondergang van de mensheid?’ ‘Ik geef dat een kans van 2%. Net zo veel als de kans dat AI de mensheid gaat redden.’ AI is een ding, de wereld is te complex om door één ding geregeerd te worden. Dus, zegt hij: gewoon doorgaan met AI research, maar wel extreem behoedzaam. (tip P. Vloemans)

Lezer J. van der Velde zegt over de bijdrage van gisteren ‘Soms heeft de koper gelijk’: ‘De beste overnames aller tijden? (…) Zijn het echt alleen maar Amerikaanse bedrijven die de beste overnames hebben gepleegd of heeft de ‘onderzoeker’ een Amerikaanse paardebril op? En rendement wordt volgens mij uitgedrukt in percentages, niet in absolute bedragen.’ En hij vraagt: moet je niet ook de periode die is verstreken sinds de overname meewegen?

Het grafiekje is inderdaad Amerika-centrisch. Dat is jammer. Maar de andere kritiek is terecht. Als je rendement uitdrukt in percentages, is bijvoorbeeld de aankoop van Maps door Google (400x de investering) veel ‘succesvoller’ dan Instagram door Facebook (175x). En inderdaad, de tijdsspanne is niet meegenomen.

Excuses dus. Had ik niet moeten overnemen.

'Verdenkingsmachine'

De software die ambtenaren in Rotterdam hielp om te beslissen welke uitkerings-ontvangers verdacht zijn, was volgebouwd met vooroordelen. Het algoritme was ‘getraind’ op 12.700 dossiers van mensen die door de gemeente in het verleden waren verdacht van fraude; de helft daarvan was onschuldig. Door deze groep te gebruiken – die is ontstaan door individuele, willekeurige keuzes van vervolgingsambtenaren – zijn vooroordelen vanaf het begin ingebakken. En omdat het een ‘zelflerend’ algoritme is (machine learning), worden die vooroordelen versterkt. Dat zegt tijdschrift Wired, dat samen met Lighthouse Reports middels een WOB-verzoek de code van het algoritme heeft gekregen, en vervolgens geanalyseerd. ‘Risico-score algoritmes krijgen vaak het verwijt dat ze niks anders doen dan vooroordelen in code te verpakken. Maar dat is moeilijk te bewijzen. Maar als je de code hebt, en de data waarmee hij werkt, kun je het proces (van de risico-analyse, dB) analyseren,’ schrijft Wired. Het noemt het algoritme ‘een verdenkingsmachine.’

Wired zegt dat het tientallen steden, in diverse landen, heeft benaderd die algoritmes gebruiken om bijstandsmisbruik op te sporen, en dat Rotterdam de enige was die  bereid was om de code aan de journalisten te geven.

Hoe werkt het? Er zijn 30.000 ontvangers van enige steun in Rotterdam. Slechts de meest riskante 10%, dus 3.000 mensen, loopt kans een bezoek van een inspecteur te krijgen. Hoe kom je in de top-10? Er zijn 315 variabelen, maar het algoritme is geïnstrueerd om bepaalde variabelen zwaarder te wegen als ze in combinatie met andere variabelen verschijnen. Als je een vrouw bent, als Nederlands niet je eerste taal is, als je net bent gescheiden na een lange relatie, als je kinderen hebt, of als de bezoekende ambtenaar vindt (subjectief) dat je niet hard genoeg naar werk zoekt, dan is die combinatie meestal genoeg voor een plek in de top 10%. Natuurlijk, discrimineren op basis van geslacht of etnische afkomst mag niet – maar is het illegaal om dit soort data aan een algoritme te voeren? ‘Nederlandse rechtspraak is op dit moment bezig dat te beslissen,’ zegt Wired.

Het artikel laat met veel voorbeelden zien hoe de software tot verkeerde conclusies leidt.

Het algoritme, ontwikkeld door Accenture, werd in 2017 door Rotterdam in gebruik genomen en in 2021 door de gemeente opgeschort.

Soms heeft de koper gelijk

We weten allemaal dat M&A (mergers and acquisitions) een roversnest en een slangenkuil is. Als je zo’n geweldig bedrijf hebt, waarom verkoop je het dan? Als je zo veel geld over hebt om een bedrijf te kopen, hoe kan dat dan? Geen idee meer waar je nog in moet investeren? Is dat niet armoedig en een veeg teken? En daartussen zitten investment bankers, goddeloos en amoreel, die maar één doel hebben: een transactie tot stand brengen waarin zij een percentage van de koopsom krijgen. Hoe duurder hoe beter. 50% tot 85% van overnames blijkt een mislukking.

Dus het is leuk om eens te kijken naar overnames die wel een goed idee bleken te zijn:

Toen Facebook een miljard dollars betaalde voor Instagram, werd Zuckerberg voor gek verklaard. Apple kocht in 1997 NeXT, het bedrijf van Steve Jobs dat hij na zijn ontslag had opgestart. Het zou interessant zijn om te weten hoe een rendement van 126 miljard is berekend – is dat echt allemaal de potentie van de chips en systemen die in NeXT waren ontwikkeld, of zit daarin ook de waarde die de heer Jobs heeft toegevoegd aan Apple? En: knap van Google dat het vier van de tien meest succesvolle overnames op zijn naam heeft weten te schrijven.

Kernenergie

Grondig overzicht van de stand van zaken in de bedrijfstak ‘kernenergie,’ wereldwijd. Klimaatverandering heeft de technologie ‘te elfder ure’ een nieuw leven geschonken.

Een paar krenten: op dit moment zijn er 35 kerncentrale in aanbouw in Azië, twee keer zo veel als in heel Europa. China heeft aangekondigd dat het tot 2060 totaal 150 kerncentrales wil bouwen zodat in dat jaar steenkool volledig overbodig wordt. Bloomberg schat dat dit 440 miljard dollar gaat kosten, over die periode van 40 jaar.

Van de ruwweg 440 kerncentrales die op dit moment draaien in de wereld zijn er 42 gebouwd op oude Sovjet-technologie, en dus afhankelijk van uranium van Rosatom.

Frankrijk is het succesverhaal. 56 centrales, op 20 lokaties, zijn allemaal van hetzelfde ontwerp en worden beheerd door EDF, een pseudo-staatsbedrijf. De ouderwetse ‘Generatie-2’ centrales draaien al tientallen jaren. Maar het land heeft zich nu gecommitteerd om 14 nieuwe ‘Gen-3’ reactoren te bouwen, die samen met Siemens (Duitsland) worden ontwikkeld. Die centrales zijn veel krachtiger en nog veel veiliger, maar het bouwen van een nieuw ontwerp is vele malen duurder en veroorzaakt vertragingen; dat zou de reputatie van kernenergie weer kunnen schaden. (tip A. Kaizer)

Touchscreen

Zou dat niet mooi zijn, een beeldscherm in de auto dat zichzelf ‘s nachts ontdoet van alle vette vingerafdrukken en ‘s ochtends beeldschoon op je staat te wachten? GM heeft een patent aangevraagd op een methode. Er bestaan al zelfreinigende zonnepanelen. Probleem is dat die een proces gebruiken waarbij vuil wordt afgevoerd door waterdruppels. Dat wil natuurlijk niet in je Cadillac. Dus de theorie van GM omzeilt dat probleem. Nu verder ontwikkelen.

Grenswacht

Je bent grenswacht in een slaperig dorpje, met een loket aan een stoffige straat en een ‘kantoor’ in een pre-fab houten schuurtje ertegenover. Nooit gebeurt er wat. En dan, in de vroege ochtend van 24 februari,  komt er opeens een brullende, walmende tank op je af rijden, met tientallen grimmig kijkende soldaten eromheen marcherend, met helmen en mitrailleurs, en daarachter een hele kolonne tanks. Je ontvangt iedere maand je salaris omdat je de grens bewaakt. Maar wat doe je nu? Ooggetuigenverslag.

Kolos

Prachtige fotoreportage over het reconstrueren van de ‘Colossus van Constantijn,’ een standbeeld van 13 meter hoog ooit in de basilica van Maxentius, op basis van slechts tien overgebleven fragmenten. Met behulp van Lidar, 3D en gips. (tip A. Nieuwland)

Foto Roberto Marossi, Fondazione Prada

Komplottheorieën

Hoe is het toch mogelijk dat mensen geloven in komplottheorieën? Voordat we oordelen – wie heeft zich niet stilletjes afgevraagd of het echt mogelijk dat Lee Harvey Oswald, helemaal in zijn eentje, de president van de Verenigde Staten heeft doodgemaakt? En vervolgens is vermoord door Jack Ruby, een obscure nachtclubeigenaar …. ?

Dit is een hele mooie beschouwing. Ik begon met een paar zinsneden te vertalen:

Komplottheorieën veronderstellen dat een groot geheim nooit onthuld kan worden. Maar: ‘Een reden waarom de meeste politici proberen niet te liegen is niet omdat ze heiliger zijn dan wij – maar omdat de risico’s van ontdekt te worden zo groot zijn dat het gewoon de moeite niet loont.’

En: ‘Samenzweringen zijn symptomen van de onzekerheid die onlosmakelijk verbonden zijn aan vrijheid – aan het leven in een onzekere, onvoorspelbare, post-moderne wereld. Ze zijn medicijn tegen de ‘open-endedness’ van de geschiedenis.’

Dat is al mooi. Maar ik kan geen betere samenvatting maken dan Robert Cottrell deed in zijn nieuwsbrief The Browser. Hij is wat arrogant, je kunt hem nooit gebruiken in een discussie met komplotdenkers. Maar zie:

‘Conspiracy theories are the insecure person’s defense against a confusing world with too many competing narratives. Conspiracy theories allow believers to claim a position of relative strength: They alone know what is going on. This hidden truth is always sinister, not because conspiracy theorists need more to fear, but because they need an explanation for the fear in which they already live.’