Hogere psychologie
De CIA heeft een videofilmpje (1:51) voor Telegram gemaakt waarin twijfelende Russen de kans wordt geboden om anoniem en veilig contact te leggen met de Amerikaanse spionagedienst. Timofiy Milovanov, president van de economische hogeschool van Kiev, looft de subtiliteit van de makers. ‘Het is geen propaganda, het gebruikt technieken uit personeelswerving die mensen ‘nudgen.‘ Zoals: sympathiseer met de twijfels die de kijker heeft. Stel vragen: ‘Waarom zijn de levens van sommige mensen minder waard dan die van andere? Wie bepaalt dat?’ Benadruk individuele keuzes (‘Ik geloof niet in revolutie,’ zegt de voice-over.) Moedig vaderlandsliefde aan: ‘Het echte leven vindt plaats als in de ziel van mensen ongemerkt verandering plaatsvindt – niet te zien voor mijn land, niet voor mij. Ik zal echt leven. Dit is mijn Rusland, het zal altijd mijn Rusland zijn.’ (video is te zien onderaan de twitterdraad.)
$279 miljoen voor klokkenluider
Geld | Bendics Evans | 16 mei 2023
De Amerikaanse beursbewaker SEC heeft 279 miljoen dollar betaald aan een klokkenluider. Een record, het vorige was 114 miljoen in 2020. Hoe en waarom wordt uitgelegd in een persbericht.
‘Next year in Moscow’
Podcast | The Economist | 16 mei 2023
Als u denkt dat u na ruim een jaar oorlog in Oekraïne wel genoeg hebt geleerd over Rusland, luister dan deze serie. Van Arkady Ostrovsky (1971), geboren in Rusland maar gestudeerd aan Cambridge, 10 jaar correspondent voor de Financial Times, alweer 17 jaar bij The Economist waar hij nu Rusland-editor is. Hij spreekt met zijn contacten, allemaal Russen die hoopten dat na Gorbachev hun land zich zou aansluiten bij de ‘moderne’ wereld. Na de invasie moesten ze kiezen: onderduiken, verzetten, of vluchten. De oorlog van Putin begon niet in 2022, niet in 2014, maar in 2007 in Georgië. Ostrovsky spreekt zijn contacten daar, in en rond Tbilisi. Hij interviewt Chulpan Khamatova, een beroemde actrice die protegé van Putin werd maar met hem brak en het land uit vluchtte. We horen een oude opname van proto-pacifist Leo Tolstoi (‘Zo veel doden ….’) en een gesprek met een man die daklozen hielp in Petersburg, met particuliere donaties; totdat hij het niet-zo-vriendelijke verzoek kreeg om daar mee op te houden omdat het de reputatie van de stad beschadigde (‘Anders rij ik met een tank over je heen.’) Een man die nu mensen helpt de dienstplicht te ontvluchten. Russische journalisten werken nu vanuit Estland, Nederland, London – maar hebben dankzij YouTube en VPN wel degelijk invloed. ‘We geven onze luisteraars het besef dat ze niet alleen zijn, dat er miljoenen zijn die er net zo over denken.’ Gesprekken met Mikhael Khodorkovsky en Andrei Navalny, en nog veel meer. Stof tot nadenken dus.
$279 miljoen voor klokkenluider
De Amerikaanse beursbewaker SEC heeft 279 miljoen dollar betaald aan een klokkenluider. Een record, het vorige was 114 miljoen in 2020. Hoe en waarom wordt uitgelegd in een persbericht.
'Next year in Moscow'
Als u denkt dat u na ruim een jaar oorlog in Oekraïne wel genoeg hebt geleerd over Rusland, luister dan deze serie. Van Arkady Ostrovsky (1971), geboren in Rusland maar gestudeerd aan Cambridge, 10 jaar correspondent voor de Financial Times, alweer 17 jaar bij The Economist waar hij nu Rusland-editor is. Hij spreekt met zijn contacten, allemaal Russen die hoopten dat na Gorbachev hun land zich zou aansluiten bij de ‘moderne’ wereld. Na de invasie moesten ze kiezen: onderduiken, verzetten, of vluchten. De oorlog van Putin begon niet in 2022, niet in 2014, maar in 2007 in Georgië. Ostrovsky spreekt zijn contacten daar, in en rond Tbilisi. Hij interviewt Chulpan Khamatova, een beroemde actrice die protegé van Putin werd maar met hem brak en het land uit vluchtte. We horen een oude opname van proto-pacifist Leo Tolstoi (‘Zo veel doden ….’) en een gesprek met een man die daklozen hielp in Petersburg, met particuliere donaties; totdat hij het niet-zo-vriendelijke verzoek kreeg om daar mee op te houden omdat het de reputatie van de stad beschadigde (‘Anders rij ik met een tank over je heen.’) Een man die nu mensen helpt de dienstplicht te ontvluchten. Russische journalisten werken nu vanuit Estland, Nederland, London – maar hebben dankzij YouTube en VPN wel degelijk invloed. ‘We geven onze luisteraars het besef dat ze niet alleen zijn, dat er miljoenen zijn die er net zo over denken.’ Gesprekken met Mikhael Khodorkovsky en Andrei Navalny, en nog veel meer.
Hoe voorkomen we a) dat AGI de mensheid overstijgt en gaat domineren, misschien uitroeien? en b) dat foute mensen de AI inzetten voor foute doelen?
R. Dattatreya stuurde een bedachtzame lezing van Centre for Humane Technology; die toont heel duidelijk hoe we, met de beste bedoelingen, de sociale media hebben ontwikkeld tot ze een negatieve invloed werden in onze samenleving. Dus hoe makkelijk het is om hetzelfde te laten gebeuren met AI. Prima. Maar hoe voorkomen we zo’n herhaling?
Voor die eerste vraag, a): zie ‘Eng?’ Misschien niet zo urgent. Voor de tweede vraag, b):
Zoals gezegd, pionier Geoff Hinton heeft geen oplossing anders dan ‘we moeten ons best doen.’ Marietje Schaake zegt in de FT ‘dat ontwikkelaars en politici meer hun best moeten doen elkaar te begrijpen.’ Dat is al een bescheiden ambitie, maar zal op zijn best alleen de mensen van goede wil verenigen. Niet de dictators, chanteurs en terroristen.
Lezer A. Fellendans schrijft: ‘Is het werkelijk ondenkbaar dat nog betere AI andere AI kan gaan ontmaskeren, bijvoorbeeld doordat we er in slagen nog beter te begrijpen hoe wij zelf denken, selecteren, kiezen, geloven en al die andere activiteiten die onze hersenen door evolutie hebben geleerd?’
Dat is misschien een hoopvolle richting: de wapenwedloop is onvermijdelijk, dus laten we ervoor zorgen dat de knapste koppen aan onze kant blijven staan.
Eng? Of toch niet?
‘Van de AI experts zei de helft dat er een kans was van 10% of meer dat AGI de mensheid zou uitroeien.’ Dat is enigszins gesimplificeerd de waarschuwing die de laatste weken overal wordt geciteerd. ‘Zou u in een vliegtuig stappen waarvan de helft van de vliegtuigbouwers zegt dat er een 10% kans is dat hij neerstort?’ was de beste vertaling. Maar klopt deze conclusie uit een peiling?
Die peiling werd gedaan door een neutrale instelling. Die benaderde 4.271 mensen die twee of meer werkstukken hadden gepubliceerd op twee belangrijke conferenties over AI. Daarvan antwoordden 738 mensen (17%). Ze beantwoordden niet allemaal alle vragen. De hamvraag (zoals hierboven samengevat) kreeg slechts 162 antwoorden. Dus 81 mensen (de helft) is bezorgd. Maar zijn die 81 representatief voor de groep van 4.271? Zijn het de slimste, of de domste uit hun onderzoeksgroep? Is er niet ook bias – zijn niet juist de meest bange mensen geneigd deze vraag te beantwoorden? (meer dan 80% beantwoordde de vraag niet, om wat voor reden ook.)
Betaalmuren
Lezer B. Boenk tipte: “Het werkt niet altijd, maar wel vaak: Www.12ft.io
Site doet zich voor als een crawler en aanbieders staan dat toe om te zorgen dat hun content vindbaar blijft. Volledig legaal!”
De naam wordt uitgelegd op die site: ‘Show me a 10ft paywall, and I’ll show you a 12ft ladder.’ Je plakt http://www.12ft.io/ vóór de URL – of je gaat naar de website www.12ft.io en plakt de URL in de balk aldaar. Hoe kan dit? Volgens de website: ‘News sites want Google to index their content so it shows up in search results. So they don’t show a paywall to the Google crawler. We benefit from this because the Google crawler will cache a copy of the site every time it crawls it. All we do is show you that cached, un-paywalled version of the page.’
Peetvader AI neemt ontslag
Geoff Hinton, één van de pioniers van Kunstmatige Intelligentie (AI), heeft ontslag genomen bij Google. De 75-jarige zegt dat hij vrij wil kunnen spreken over de gevaren van de zelflerende computer. Hij was het grootste deel van zijn leven wetenschapper, totdat een bedrijfje dat hij met twee van zijn studenten had opgericht tien jaar geleden werd gekocht door Google. Hij benadrukt dat hij geen kritiek wil hebben op Google. Maar concurrentie bracht het bedachtzame beleid van Google in gevaar: toen Microsoft de zoekmachine Bing verrijkte met de AI van OpenAI, ging Google op ‘code rood.’ Hinton zegt: dit houd je niet tegen, en als we niks doen komen we in een wereld van kunstmatige beelden en tekst waarin niemand meer weet wat echt is en wat niet. En: ‘Het is moeilijk te zien hoe we mensen met slechte bedoelingen ervan kunnen weerhouden dit in te zetten voor slechte doelen.’ Wat kunnen we doen? Een non-proliferatieverdrag, zoals met atoombommen? Maar AI kun je ontwikkelen zonder dat iemand het ziet. Het meest zorgelijke van dit gesprek is dat Hinton niet verder komt dan ‘wetenschappers moeten met elkaar afspreken zich in te houden.’ (Dit is een verwijzing naar een interview in de NY Times, maar dat staat waarschijnlijk achter een betaalmuur). (tip A. Kaizer)
Hoe werkt het nou?
Dit is het enige artikel dat ik heb gevonden dat uitlegt hoe kunstmatige intelligentie nu werkt, en het enige dat ik ook begrijp. Die computer (althans, een aantal programma’s die draaien op verschillende enorme servers) leest geen woorden; hij zet ze om in ‘tokens’ en dat heet tokenisation. Dan worden ze ‘embedded’ in groepen met verwante begrippen. De AI moet miljarden keren oefenen voordat hij snapt welke woorden met elkaar verwant zijn. Taal is een collectie ‘weights.’ Voor die AI zijn het nooit woorden; meer statistische waarschijnlijkheden. Dan formuleert hij een antwoord door middel van ‘autoregression.’ Enfin, hopelijk maakt dit u nieuwsgierig.
(The Economist is erg zuinig op dit verhaal, ook al is het alweer tien dagen oud. Abonnees kunnen het niet eens delen met buitenstaanders. Dus ik kan alleen de link achter de betaalmuur geven.)