Wie is er bang voor robots?

Elon Musk, baas van Tesla, onder andere. Nick Bostrom, schrijver van ‘Superintelligence’ (dat Musk de stuipen op het lijf jaagde). Is niet nodig. Isaac Asimov schreef al in 1942 ‘wetgeving’ voor robots, waarmee je voorkomt dat intelligente robots de macht grijpen. Tenzij een onverlaat natuurlijk de spelregels negeert. (Gevonden in Schott’s original Miscellany, bijzonder boek).

Regel 1: Een robot mag een mens niet letsel bezorgen, of door inactie het kwetsen van mensen mogelijk maken

Regel 2: Een robot moet opdrachten van mensen gehoorzamen behalve als een opdracht conflicteert met regel 1

Regel 3: Een robot moet zijn eigen bestaan beschermen zolang die bescherming niet conflicteert met regel 1 of 2.

Asimov had het knagende gevoel dat regels 1-3 niet voldoende zouden om de samenleving te beschermen. Dus schreef hij in het boek ‘Robots and Empire’ (1985) een vierde regel:

Zeroth: Een robot mag de mensheid geen schade berokkenen, of door inactie schade aan de mensheid als geheel mogelijk maken.