Verval valt mee
‘De samenleving wordt steeds ruwer/egoïstischer/harder/onaardiger.’ Is dat zo? Promotie-onderzoek bestudeerde 70 jaar opiniepeilingen en concludeert: het percentage mensen dat klaagt over verval van normen en waarden is in 1949 even groot als in 2019. Twee mogelijkheden: óf we worden al 70 jaar, zonder onderbreking, steeds onaardiger; óf het is een perceptie van de ondervraagden, en kennelijk een hele hardnekkige, die iedere generatie terugkeert. Lijden we collectief aan nostalgie?
Aardwarmte
In het rijtje ‘duurzame energiebronnen’ komt aardwarmte relatief weinig in het nieuws. Omdat de aardkorst op de meeste plekken te dik is om betaalbaar te boren. Zes kilometer is wel nodig op de meeste plekken. Dat is een lange boor. Risico van slijtage, breuk van de boor, etc. Reparatie op die afstand is tijdrovend en dus duur. Twee bedrijven, eentje in de VS en eentje in Slowakije, zeggen nu nieuwe technologie te hebben om diep boren betaalbaar te maken. De Slowaak zegt dat hij al een succesvolle test heeft uitgevoerd met de nieuwe boor. Voor de liefhebber: filmpje.
AI piekt?
Technologie | Noahpinion | 6 juni 2023
Large Learning Models (LLM's) zijn duur om te bouwen en te draaien; en de hoeveelheid lesmateriaal is beperkt; dus het zou best kunnen dat de ontwikkeling van AI binnenkort een plateau bereikt. Dat we op het steilste punt van de S-curve zitten. Een LLM met 1 biljoen parameters kost nu $300 miljoen om te bouwen; eentje met 10 biljoen zou $30 miljard kosten. En LLM's worden getraind door het hele internet te lezen en te absorberen; maar de hoeveelheid kwalitatief goede, Engelstalige tekst zou al in 2026 volledig zijn gebruikt. (zegt deze studie.) Dus hoe maak je hem dan slimmer? Nvidia zou nog snellere chips kunnen maken, massaproductie maakt onderdelen goedkoper, nieuwe trainingsmethodes laten de LLM sneller en/of slimmer leren. Maar een groeivertraging is niet denkbeeldig.
Schmidhuber
Technologie | Marg revolution | jun 2023
Duitser Jürgen Schmidhuber (1963) geldt als één van de pioniers van AI. Hij heeft niet zijn handtekening gezet onder pamfletten die waarschuwen voor de gevaren van 'AGI.' Een AI die hij met collega's al in 2012 ontwikkelde was in staat om borstkankercellen te herkennen. 'Sommige van de neurale netwerken die we laatste 30 jaar hebben ontwikkeld worden gebruikt in duizenden medische toepassingen.'
'Er is veel grotere commerciële druk om 'goedaardige' AI te maken dan 'kwaadaardige,' omdat bedrijven je iets willen verkopen, en jij gaat alleen maar dingen kopen waarvan je denkt dat je er iets aan hebt.' 'Maar ja, Schwarzenegger-achtige doemscenario's grijpen nu eenmaal je aandacht, meer dan documentaires over hoe AI het leven veraangenaamt.'
Computers worden iedere tien jaar honderd keer krachtiger, al sinds 1941. 'Veel van wat GPT-4 kan, was vorige eeuw al mogelijk; maar nu pas breed bruikbaar omdat computerkracht veel goedkoper is geworden.'
Dus? Wat zegt u tegen uw kinderen?
'Ik heb twee dochters van 23 en 25. Ik zeg tegen ze: 'Jullie gaan waarschijnlijk meemaken dat er nieuwe soorten intelligentie verschijnen, die in veel opzichten superieur zijn.' Hoe bereid je je daar op voor? Leer hoe je nieuwe dingen leert!'
Maar dan sluit hij af: 'Wat is het doel van het heelal? Dat weten we niet. Maar misschien is wat nu gebeurt een deel van het antwoord. Mensen moet je niet zien als het kroonjuweel van de creatie. Beschouw menselijke beschaving als onderdeel van een veel groter plan, een belangrijke stap (maar niet de laatste) op de weg van het heelal van hele simpele omstandigheden naar onpeilbare complexiteit. Misschien dat het heelal nu begonnen is die volgende stap te zetten.'
Tja. And in the long run we're all dead.
Ontmaagd
Ook belangrijk | Marginal Revolution | 5 juni 2023
Ja Nederland staat ook in 't rijtje. En België.
(Net op tijd bedacht ik me dat ik de essentiële vraag niet had gesteld: 'Wat is de bron?' Die is bij geen één grafiekje van 'World of Statistics' te vinden. Na wat googlen vond ik: een enquete door Durex uit 2017)
AI piekt?
Large Learning Models (LLM’s) zijn duur om te bouwen en te draaien; en de hoeveelheid lesmateriaal is beperkt; dus het zou best kunnen dat de ontwikkeling van AI binnenkort een plateau bereikt. Dat we op het steilste punt van de S-curve zitten. Een LLM met 1 biljoen parameters kost nu $300 miljoen om te bouwen; eentje met 10 biljoen zou $30 miljard kosten. En LLM’s worden getraind door het hele internet te lezen en te absorberen; maar de hoeveelheid kwalitatief goede, Engelstalige tekst zou al in 2026 volledig zijn gebruikt. (zegt deze studie.) Dus hoe maak je hem dan slimmer? Nvidia zou nog snellere chips kunnen maken, massaproductie maakt onderdelen goedkoper, nieuwe trainingsmethodes laten de LLM sneller en/of slimmer leren. Maar een groeivertraging is niet denkbeeldig.
Ontmaagd
Ja Nederland staat ook in ‘t rijtje. En België.
(Net op tijd bedacht ik me dat ik de essentiële vraag niet had gesteld: ‘Wat is de bron?’ Die is bij geen één grafiekje van ‘World of Statistics’ te vinden. Na wat googlen vond ik: een enquete door Durex uit 2017)
Slim
Zwitsers bedrijf wil zonnepanelen tussen de rails leggen. Dat soort plannen bestaat ook al in Italië en Engeland, maar Sun-Ways heeft een speciale wagon gebouwd die de panelen ‘legt.’ Eerste proeftraject van 50 meter, met 60 panelen, komt dit jaar nabij Neuchatel. Slim gebruik van loze ruimte. Maar die WC’s aan boord ….
Schmidhuber
Duitser Jürgen Schmidhuber (1963) geldt als één van de pioniers van AI. Hij heeft niet zijn handtekening gezet onder pamfletten die waarschuwen voor de gevaren van ‘AGI.’ Een AI die hij met collega’s al in 2012 ontwikkelde was in staat om borstkankercellen te herkennen. ‘Sommige van de neurale netwerken die we laatste 30 jaar hebben ontwikkeld worden gebruikt in duizenden medische toepassingen.’
‘Er is veel grotere commerciële druk om ‘goedaardige’ AI te maken dan ‘kwaadaardige,’ omdat bedrijven je iets willen verkopen, en jij gaat alleen maar dingen kopen waarvan je denkt dat je er iets aan hebt.’ ‘Maar ja, Schwarzenegger-achtige doemscenario’s grijpen nu eenmaal je aandacht, meer dan documentaires over hoe AI het leven veraangenaamt.’
Computers worden iedere tien jaar honderd keer krachtiger, al sinds 1941. ‘Veel van wat GPT-4 kan, was vorige eeuw al mogelijk; maar nu pas breed bruikbaar omdat computerkracht veel goedkoper is geworden.’
Dus? Wat zegt u tegen uw kinderen?
‘Ik heb twee dochters van 23 en 25. Ik zeg tegen ze: ‘Jullie gaan waarschijnlijk meemaken dat er nieuwe soorten intelligentie verschijnen, die in veel opzichten superieur zijn.’ Hoe bereid je je daar op voor? Leer hoe je nieuwe dingen leert!’
Maar dan sluit hij af: ‘Wat is het doel van het heelal? Dat weten we niet. Maar misschien is wat nu gebeurt een deel van het antwoord. Mensen moet je niet zien als het kroonjuweel van de creatie. Beschouw menselijke beschaving als onderdeel van een veel groter plan, een belangrijke stap (maar niet de laatste) op de weg van het heelal van hele simpele omstandigheden naar onpeilbare complexiteit. Misschien dat het heelal nu begonnen is die volgende stap te zetten.’ Tja. And in the long run we’re all dead.
Hogere psychologie
Psychologie | Twitter | 18 mei 2023
De CIA heeft een videofilmpje (1:51) voor Telegram gemaakt waarin twijfelende Russen de kans wordt geboden om anoniem en veilig contact te leggen met de Amerikaanse spionagedienst. Timofiy Milovanov, president van de economische hogeschool van Kiev, looft de subtiliteit van de makers. ‘Het is geen propaganda, het gebruikt technieken uit personeelswerving die mensen ‘nudgen.‘ Zoals: sympathiseer met de twijfels die de kijker heeft. Stel vragen: ‘Waarom zijn de levens van sommige mensen minder waard dan die van andere? Wie bepaalt dat?’ Benadruk individuele keuzes (‘Ik geloof niet in revolutie,’ zegt de voice-over.) Moedig vaderlandsliefde aan: ‘Het echte leven vindt plaats als in de ziel van mensen ongemerkt verandering plaatsvindt – niet te zien voor mijn land, niet voor mij. Ik zal echt leven. Dit is mijn Rusland, het zal altijd mijn Rusland zijn.’ (video is te zien onderaan de twitterdraad.)
AI: eng
Technologie | De Bicker | 18 mei 2023
Bicker-lezer A. Kaizer stuurde – alweer een paar weken geleden – dit lijstje van doorbraken:
1. Deepmind berekent alle ruimtelijke eiwitstructuren. Dis is een heel grote doorbraak en bruikbaar op vele gebieden.
AI protein-folding algorithms solve structures faster than ever
https://www.nature.com/articles/d41586-019-01357-6
https://en.wikipedia.org/wiki/AlphaFold
2. Deepmind wint van Go kampioen met nieuwe onbekende zet. De menselijke kampioen is er meteen mee gestopt.
https://www.bbc.com/news/technology-40042581
https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol
3. Quantummechanica is contra-intuïtief. AI ontwierp experiment dat niemand kon verzinnen
4. Video: bereken een beeldpuntje en AI schat de punten er om heen. Graphics/video processing wordt 5-6 keer sneller.
https://www.youtube.com/watch?v=_-wjA4XlBl4
5. Een AI piloot die het wint van de mens via verrassende manoeuvres.
https://www.wired.com/story/us-air-force-skyborg-vista-ai-fighter-jets/
Op 5 mei lekte een intern memo van Google uit, waarin een medewerker zegt: de code van concurrent Meta ligt op straat, en als je ziet hoe snel mensen daarmee vorderingen hebben gemaakt, dan besef je: hier staat we machteloos tegenover. (‘we have no moat.’) Erger nog: particulieren met een krachtige laptop en 100 dollar op zak werken sneller. ‘Open-source modellen zijn sneller, makkelijker te personaliseren, krachtiger. Ze doen dingen met 100 dollar en 13B parameters die wij met moeite doen met 10 miljoen dollar en 540B. En ze doen het in weken, niet maanden.’ De zorg van deze Google-medewerker is financieel: hoe kunnen wij nog geld vragen voor onze AI-producten als er betere producten gratis op straat liggen, of in een handomdraai gemaakt kunnen worden? Maar het grotere probleem lijkt dat ook mensen met kwade bedoelingen nu heel makkelijk krachtige AI kunnen ontwikkelen.
AI: niet eng
Technologie | Substack | 18 mei 2023
Verity Harding is ook een AI-veteraan. Maar eentje die zich niet zorgen maakt over de dominantie, die het einde van de mensheid betekent. Zij was wereldwijd verantwoordelijk voor overheidsrelaties bij DeepMind, lid van het netwerk AI experts van OESO, mede-auteur ‘AI uitgangspunten’ voor de G20, etc Een paar citaten: ‘‘Large Language Models’ zijn niet hetzelfde als een AI die je op een dag kan doodmaken. Sterker nog, ik zal mijn nek uitsteken en zeggen: superintelligente AI systemen zullen de mensheid niet uitroeien.’
Zij citeert Yann le Cunn (hoofd wetenschap bij Meta, winnaar ACM Turing Award): “Before we get to ‘god-like AI’ we’ll need to get through ‘dog-like AI’.” (dit ga ik niet proberen te vertalen.) En zegt ook: ‘Als je iets uitzonderlijks als het uitroeien van de mensheid wilt beargumenteren, moet je met uitzonderlijke argumenten komen. Die moeten gebaseerd zijn op concrete vaardigheden die nu bestaan in bestaande software, en niet verstopt achter verraderlijke concepten als ‘intelligentie.”
We moeten ons niet laten afleiden door enge vergezichten, is haar conclusie, maar gewoon ‘klunen:’ nadenken over hoe je misbruik kunt voorkomen, wie verantwoording aan wie moet afleggen, regels schrijven, verdragen sluiten.
Verity Harding is ook een AI-veteraan. Maar eentje die zich niet zorgen maakt over de dominantie, die het einde van de mensheid betekent. Zij was wereldwijd verantwoordelijk voor overheidsrelaties bij DeepMind, lid van het netwerk AI experts van OESO, mede-auteur ‘AI uitgangspunten’ voor de G20, etc Een paar citaten: ‘‘Large Language Models’ zijn niet hetzelfde als een AI die je op een dag kan doodmaken. Sterker nog, ik zal mijn nek uitsteken en zeggen: superintelligente AI systemen zullen de mensheid niet uitroeien.’
Zij citeert Yann le Cunn (hoofd wetenschap bij Meta, winnaar ACM Turing Award): “Before we get to ‘god-like AI’ we’ll need to get through ‘dog-like AI’.” (dit ga ik niet proberen te vertalen.) En zegt ook: ‘Als je iets uitzonderlijks als het uitroeien van de mensheid wilt beargumenteren, moet je met uitzonderlijke argumenten komen. Die moeten gebaseerd zijn op concrete vaardigheden die nu bestaan in bestaande software, en niet verstopt achter verraderlijke concepten als ‘intelligentie.”
We moeten ons niet laten afleiden door enge vergezichten, is haar conclusie, maar gewoon ‘klunen:’ nadenken over hoe je misbruik kunt voorkomen, wie verantwoording aan wie moet afleggen, regels schrijven, verdragen sluiten.
AI: eng
Bicker-lezer A. Kaizer stuurde – alweer een paar weken geleden – dit lijstje van doorbraken:
1. Deepmind berekent alle ruimtelijke eiwitstructuren. Dis is een heel grote doorbraak en bruikbaar op vele gebieden.
AI protein-folding algorithms solve structures faster than ever
https://www.nature.com/articles/d41586-019-01357-6
https://en.wikipedia.org/wiki/AlphaFold
2. Deepmind wint van Go kampioen met nieuwe onbekende zet. De menselijke kampioen is er meteen mee gestopt.
https://www.bbc.com/news/technology-40042581
https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol
3. Quantummechanica is contra-intuïtief. AI ontwierp experiment dat niemand kon verzinnen
4. Video: bereken een beeldpuntje en AI schat de punten er om heen. Graphics/video processing wordt 5-6 keer sneller.
https://www.youtube.com/watch?v=_-wjA4XlBl4
5. Een AI piloot die het wint van de mens via verrassende manoeuvres.
https://www.wired.com/story/us-air-force-skyborg-vista-ai-fighter-jets/
Op 5 mei lekte een intern memo van Google uit, waarin een medewerker zegt: de code van concurrent Meta ligt op straat, en als je ziet hoe snel mensen daarmee vorderingen hebben gemaakt, dan besef je: hier staat we machteloos tegenover. (‘we have no moat.’) Erger nog: particulieren met een krachtige laptop en 100 dollar op zak werken sneller. ‘Open-source modellen zijn sneller, makkelijker te personaliseren, krachtiger. Ze doen dingen met 100 dollar en 13B parameters die wij met moeite doen met 10 miljoen dollar en 540B. En ze doen het in weken, niet maanden.’ De zorg van deze Google-medewerker is financieel: hoe kunnen wij nog geld vragen voor onze AI-producten als er betere producten gratis op straat liggen, of in een handomdraai gemaakt kunnen worden? Maar het grotere probleem lijkt dat ook mensen met kwade bedoelingen nu heel makkelijk krachtige AI kunnen ontwikkelen.