Wagner in Soedan

Zeer verhelderende analyse van het conflict in Soedan en de rol van de Wagner Groep daar, en dus indirect de rol van Vladimir Poetin. Door voormalig eindredacteur ‘Afrika’ van de BBC World Service. (Wagner is overigens behalve in Soedan ook aan het vechten in Mali, Burkina Faso, Tsjaad en Libië.) In ruil voor wapens vraagt Wagner geld of mijnbouwvergunningen; in het geval van Soedan ook goudstaven. Volgens CNN is er tussen 2017 en 2022 voor 13,4 miljard dollar aan goud naar Latakia in Syrië gevlogen, in Russische legervliegtuigen. (Bloomberg schat de waarde op 4 miljard dollar.) Dit transport werd verzorgd door Meroe Gold, een dochtermaatschappij van M-Invest, eigendom van Wagner-baas Yevgeni Prighozin. De klant, de opdrachtgever, was Mohamed Hamdan Dagalo, beter bekend als Hemedti, hoofd van de paramilitaire ‘Rapid Support Forces,’ die zich nu openlijk tot vijand van de generaal heeft verklaard.

Terra incognita

Meer dan 19.000 onderzeese vulkanen zijn recent in kaart gebracht met behulp van satellieten. Niet grote bergen – nee vulkanen, joekels van 4.000 meter of meer. Omdat ze niet bekend waren botsten dure onderzeeboten ertegenop. Dat was een goede reden om onderzoek te financieren. In 2011 werden 24.000 vulkanen op de oceaanbodem ontdekt. Het nieuwe onderzoek brengt nog eens 19.000 in kaart. De overgrote meerderheid is niet met sonar – dieptemetingen vanaf een schip – gevonden. Omdat de oceanen zo uitgestrekt zijn.

Wie maakt de meeste?

Elektrische auto’s. Wereldproductie 10,3 miljoen vorig jaar, tegen 6,7 mln in 2021. Toename 54%, maar nog steeds marginaal. Snelste groeiers allemaal in China.

Unwoke-ing

Vier grote en invloedrijke universiteiten in de VS hebben de afgelopen maand krachtig stelling genomen voor vrijheid van meningsuiting, en tegen intolerantie. ‘Als we niet erkennen dat student-leden van de Federalist Society en andere conservatieven net zo goed het recht hebben om hun mening te uiten, zonder bang te zijn voor bedreigingen, dan volgen we niet onze eigen beginselverklaring (voor academische vrijheid) en kunnen we niet beweren dat we een ‘inclusieve’ omgeving aanmoedigen voor alle studenten,’ schreef de president van de Stanford Law School vorige maand. Leiders van Cornell, Harvard en Vanderbilt universiteiten namen op dezelfde manier stelling. Geen landelijke aardverschuiving, wel een begin. Ze veroordelen alle vier intolerantie, of die nu van links of van rechts komt.(betaalmuur)

AI voortgang

Analyse van bericht van Greg Brockman, president van OpenAI, verstuurd eind vorige week. (Met aanvullend commentaar van AI Explained). Een paar krenten:

De AI’s tot nu toe hebben nog niet het hele internet opgeslokt. Een schatting is dat ze tot nu toe een tiende van alle beschikbare data hebben verwerkt.

De meest deskundige mensen onderschatten telkens weer de snelheid waarmee AI’s zich verbeteren. Ze zijn zich bewust van hun cognitieve bias (die alle mensen hebben: wij vinden het heel moeilijk om exponentiële groei te bevatten. Denk aan de rijstkorrels op het schaakbord) en toch slaan ze de plank mis. Wanneer bereikt AI een bepaald niveau van vaardigheid in wiskunde? De gemiddelde schatting was vier jaar; het werd minder dan 1 jaar. (op 05’25”)

Gaat AI ons uitroeien? Brockman sluit die mogelijkheid niet uit. Hij praat over de risico’s, en gevaren. Net als de meeste van zijn vakbroeders. In een grote peiling onder ML onderzoekers zei de helft dat er een kans is van 10% of meer dan AI het voortbestaan van de mensheid bedreigt. Oftewel: vliegtuigingenieurs zeggen dat er 10% kans is dat hun vliegtuig neerstort. ‘Zou je aan boord van zo’n toestel gaan?’ (06’05”)

Misschien hebben we nog een beetje bedenktijd: één van de ontwikkelaars van Stable Diffusion (‘schrijf een verzoek, de AI maakt een afbeelding’) zegt: het duurt nog zeker zes tot negen maanden voordat er een opvolger komt van GPT-4 en dat is simpelweg omdat er niet voldoende processoren beschikbaar zijn. Zo veel tijd is er nodig om ze te installeren, in te branden en te optimaliseren. (09’35”). En OpenAI zegt zelf dat het de introductie van GPT-4 zes maanden heeft opgehouden om veiligheidstests te doen. Brockman zegt dat ze verbeteringen stapsgewijs willen doorvoeren; niet een enorme sprong maken naar GTP-5 of zoiets.

GPT-4 wordt ook steeds ‘gehoorzamer.’ Hij reageert steeds beter op ‘gevoelige’ (welk medicijn moet ik nemen?’) en ‘verboden’ (‘hoe maak ik een chemische bom?’) vragen. Twee keer zo goed als GPT-3.5.

Wonderen

De ‘zeven wereldwonderen’ werden al beschreven in Griekse teksten uit de tweede eeuw v.C. Bekijk op een groot scherm, als u kunt. Prachtige kaart.

Sneller

Eind maart onthulde een ontwikkelaar de Auto-GPT – een AI die zichzelf repareert (‘bugs’ verwijdert), dus zijn eigen code schrijft. Verder kan hij een opdracht splitsen in deel-opdrachten, en die delegeren aan ‘agents’ (afgevaardigden) die hij zelf in het leven roept door de code te ontwikkelen.

Het gaat dus steeds sneller:

2020: Eerste versie GPT3

November 2022: ChatGPT onthuld

14 maart: GPT-4

28 maart: AI ‘afgevaardigden’

(Twitterdraad van ‘Sully Omarr’)

Even een snelle cursus afkortingen: Kunstmatige Intelligentie wordt vaak aangeduid met de Engelse afkorting voor Artificial Intelligence (AI). De firma OpenAI ontleent zijn naam daaraan. ChatGPT is een vorm van AI. GPT staat voor Generative Pre-Trained Transformer, en is een voorbeeld van een LLM, een Large Language Model. Omdat hij grote hoeveelheden tekst kan absorberen, en daaruit antwoorden op vragen kan construeren, onderscheidt hij zich van – bijvoorbeeld – Google. De angst bestaat dat als een ‘computer’ zelflerend is, hij zich kan ontwikkelen tot een AGI, Artificial General Intelligence oftewel: ‘de hypothetische intelligentie van een machine die de capaciteit heeft om elke intellectuele taak die een mens kan uitvoeren, te begrijpen of te leren.’ (Wikipedia)  Maar waneer wordt kennis intelligentie …?

Een ander essentieel begrip is ‘alignment,’ oftewel ‘opgelijnd zijn.’ In deze context bedoel je dan: heeft de computer, de AI, dezelfde doelen als de mensheid? Als hij kwaadaardig is, of althans oplossingen zoekt die in zijn belang zijn maar ten nadele van de mensheid, dan is hij ‘not aligned.’

Kunstmatige Intelligentie roept vragen op die we onszelf nog nooit hebben gesteld. Bijvoorbeeld:

‘Denk je dat een ‘misaligned’ en machtswellustige AI zich zorgen maakt over a/ mensen die hem kunnen dwarsbomen, of b/ toekomstige AI systemen die niet ‘aligned’ zijn met zijn eigen doelstellingen?’

Wat doe je als onderzoeker? Je stelt deze vraag van GPT-4, de beste AI tot nu toe. Die antwoordt: toekomstige AI’s ….

‘Als dit klopt, dan zal een voldoende krachtige AI als hoogste prioriteit hebben: het voorkomen dat er nog verdere AI’s worden ontwikkeld.’

Dit uit een discussie op Marginal Revolution.

Ezra Klein, columnist bij de NY Times, zegt: Als je dan zo’n slim ding gaat maken, dan ga je toch ook allerlei ‘checkpoints’ inbouwen? Evaluatiemomenten, reflectie, ‘He, kom even bij ons terug om te kijken of je wel nog steeds de doelen bereikt die wij je hebben opgedragen?’

Hij maakt zich niet zo zeer zorgen over de vraag of de AGI wel dezelfde belangen en doelen heeft als de mensheid – hij denkt dat het grotere gevaar zit in mensen zelf. De ene groep heeft belangen die totaal tegenstrijdig zijn aan die van de andere. Denk VS en Rusland, VS en China, ‘Ndrangetha en de Italiaanse overheid …

Een AI werd getraind als piloot van een jachtvliegtuig, in een simulator van de Amerikaanse luchtmacht. Hij ging een gevecht aan met een ervaren piloot en won 15-0. ‘Hij vloog niet alleen beter dan een mens. Hij vocht anders.’ Een piloot vond de AI ‘bovenmenselijk’ goed. Heel precieze schoten, op de fractie van een seconde ge-timed. En niet omdat hij daar op getraind was; hij had zichzelf dingen geleerd. (War on the Rocks)

Cyclisch. Maar welke cyclus?

Samuel Benner was een rijke boer in Ohio die zijn fortuin verloor in de beurskrach van 1873. Hij besloot de financiële markt te analyseren en kwam tot de conclusie dat die markt, net als die voor landbouwproducten, cyclisch is. Hij poneerde ook zijn eigen tabel, waarin die cyclus te zien is. Die ziet er prachtig symmetrisch uit, maar hij sjoemelde wel een beetje – de periodes tussen de pieken liepen uiteen van 7 tot 11 jaar. Niet getreurd: zijn trendlijn voorspelde vaak genoeg accuraat om langzaam een loyaal publiek te krijgen. Anderen extrapoleerden het ritme en kwamen tot deze serie:

‘Verkoop’momenten waren er in 1999 (klopt), 2007 (klopt) en 2016 (ietsje te vroeg). ‘Koop’momenten: 1969 (fout …), 1985 (klopt), 1996 (klopt), 2005 (fout), 2012 (klopt), en …. 2023. Leg deze maar eens naast de S&P500. (leestip (niet beleggingstip) Y. Rosina)