Hogere psychologie - AI eng of niet eng?
Hogere psychologie
Psychologie | Twitter | 18 mei 2023
De CIA heeft een videofilmpje (1:51) voor Telegram gemaakt waarin twijfelende Russen de kans wordt geboden om anoniem en veilig contact te leggen met de Amerikaanse spionagedienst. Timofiy Milovanov, president van de economische hogeschool van Kiev, looft de subtiliteit van de makers. ‘Het is geen propaganda, het gebruikt technieken uit personeelswerving die mensen ‘nudgen.‘ Zoals: sympathiseer met de twijfels die de kijker heeft. Stel vragen: ‘Waarom zijn de levens van sommige mensen minder waard dan die van andere? Wie bepaalt dat?’ Benadruk individuele keuzes (‘Ik geloof niet in revolutie,’ zegt de voice-over.) Moedig vaderlandsliefde aan: ‘Het echte leven vindt plaats als in de ziel van mensen ongemerkt verandering plaatsvindt – niet te zien voor mijn land, niet voor mij. Ik zal echt leven. Dit is mijn Rusland, het zal altijd mijn Rusland zijn.’ (video is te zien onderaan de twitterdraad.)
AI: eng
Technologie | De Bicker | 18 mei 2023
Bicker-lezer A. Kaizer stuurde – alweer een paar weken geleden – dit lijstje van doorbraken:
1. Deepmind berekent alle ruimtelijke eiwitstructuren. Dis is een heel grote doorbraak en bruikbaar op vele gebieden.
AI protein-folding algorithms solve structures faster than ever
https://www.nature.com/articles/d41586-019-01357-6
https://en.wikipedia.org/wiki/AlphaFold
2. Deepmind wint van Go kampioen met nieuwe onbekende zet. De menselijke kampioen is er meteen mee gestopt.
https://www.bbc.com/news/technology-40042581
https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol
3. Quantummechanica is contra-intuïtief. AI ontwierp experiment dat niemand kon verzinnen
4. Video: bereken een beeldpuntje en AI schat de punten er om heen. Graphics/video processing wordt 5-6 keer sneller.
https://www.youtube.com/watch?v=_-wjA4XlBl4
5. Een AI piloot die het wint van de mens via verrassende manoeuvres.
https://www.wired.com/story/us-air-force-skyborg-vista-ai-fighter-jets/
Op 5 mei lekte een intern memo van Google uit, waarin een medewerker zegt: de code van concurrent Meta ligt op straat, en als je ziet hoe snel mensen daarmee vorderingen hebben gemaakt, dan besef je: hier staat we machteloos tegenover. (‘we have no moat.’) Erger nog: particulieren met een krachtige laptop en 100 dollar op zak werken sneller. ‘Open-source modellen zijn sneller, makkelijker te personaliseren, krachtiger. Ze doen dingen met 100 dollar en 13B parameters die wij met moeite doen met 10 miljoen dollar en 540B. En ze doen het in weken, niet maanden.’ De zorg van deze Google-medewerker is financieel: hoe kunnen wij nog geld vragen voor onze AI-producten als er betere producten gratis op straat liggen, of in een handomdraai gemaakt kunnen worden? Maar het grotere probleem lijkt dat ook mensen met kwade bedoelingen nu heel makkelijk krachtige AI kunnen ontwikkelen.
AI: niet eng
Technologie | Substack | 18 mei 2023
Verity Harding is ook een AI-veteraan. Maar eentje die zich niet zorgen maakt over de dominantie, die het einde van de mensheid betekent. Zij was wereldwijd verantwoordelijk voor overheidsrelaties bij DeepMind, lid van het netwerk AI experts van OESO, mede-auteur ‘AI uitgangspunten’ voor de G20, etc Een paar citaten: ‘‘Large Language Models’ zijn niet hetzelfde als een AI die je op een dag kan doodmaken. Sterker nog, ik zal mijn nek uitsteken en zeggen: superintelligente AI systemen zullen de mensheid niet uitroeien.’
Zij citeert Yann le Cunn (hoofd wetenschap bij Meta, winnaar ACM Turing Award): “Before we get to ‘god-like AI’ we’ll need to get through ‘dog-like AI’.” (dit ga ik niet proberen te vertalen.) En zegt ook: ‘Als je iets uitzonderlijks als het uitroeien van de mensheid wilt beargumenteren, moet je met uitzonderlijke argumenten komen. Die moeten gebaseerd zijn op concrete vaardigheden die nu bestaan in bestaande software, en niet verstopt achter verraderlijke concepten als ‘intelligentie.”
We moeten ons niet laten afleiden door enge vergezichten, is haar conclusie, maar gewoon ‘klunen:’ nadenken over hoe je misbruik kunt voorkomen, wie verantwoording aan wie moet afleggen, regels schrijven, verdragen sluiten.