‘Verdenkingsmachine’ (2)

Lezer J. Rademaker schrijft dat de Belastingdienst een soortgelijk systeem had, tot 2020. Van de website:  ‘Een van deze systemen was de Fraude Signalering Voorziening (FSV). De FSV werd gebruikt voor het registreren van risicosignalen. Uit onderzoek bleek dat het gebruik van dit systeem op verschillende punten niet voldeed aan de Algemene Verordening Gegevensbescherming (AVG). Daarom is de FSV op 27 februari 2020 uitgezet en daarna niet meer gebruikt.’

Het interview met Kevin Kelly geeft ook hier weer een nuttig inzicht:

‘Omdat AI’s worden getraind op gemiddeld mensenwerk, vertonen ze de vooroordelen, zwakheden, ‘biases’ en kwaadaardigheden van de gemiddelde mens. (…) Maar wij willen dat AI’s beter zijn dan wij! Minder racistisch, minder seksistisch, minder egoïstisch dan wij gemiddeld zijn. Het is NIET moeilijk om ethisch en morele richtlijnen in te programmeren, het betekent gewoon meer code. Het lastige is dat wij mensen geen consensus hebben over wat ‘beter dan wij’ is. Het probleem is niet de AI’s. Het probleem is dat ze de schijnwerper richten op onze oppervlakkige en inconsistente ethiek.’

Oftewel: garbage in, garbage out.