Artificial Superintelligence (ASI)

Met mijn moeder zit ik regelmatig aan de koffie of thee met iets erbij, voor haar meestal apfelstrudel opgewarmd in de oven (weer vergeten te vragen of ze niet magnetron bedoelen) met slagroom erbij, uitkijkend over de rivier de IJssel. Ondanks dat ze lijdt aan dat wat Alzheimer genoemd wordt kon ze mijn antwoord op haar vraag waar ik mij mee bezig houd redelijk volgen.
Al had ze gewild dat ze in betere toestand was en nog iets kon bijdragen. Ik heb haar maar gewezen op hoe ze in haar leven al bijgedragen heeft, ook aan dit moment, en als ze nog even volhield de razendsnelle ontwikkelingen haar misschien nog konden helpen.

Na mijn uitleg over de ontwikkeling van Ai en het gebrek aan regulatie en het gevaar hiervan, sprak ‘het universum’ tegen mij in de vorm van de namen van de schepen die langs kwamen, wat niet de eerste keer was dat dit gebeurde. Het schip wat onze kant op kwam was genaamd Hydra (een veelkoppig monster (slang) uit de Griekse mythologie wiens hoofden weer aangroeide nadat ze waren afgehakt. Wel uiteindelijk gedood door Hercules.)
Het schip dat op hetzelfde moment de andere kant op voer heette Bestevaer, wat ik als het positieve tegendeel of andere mogelijkheid van Hydra vertaalde. De naam Bestvaer verwijst waarschijnlijk naar een koopvaardijschip wat in de eerste wereldoorlog door een Duitse onderzeeër tot zinken is gebracht, lees ik op Wikipedia. Tja.

Maar goed, ik werd geïnspireerd door onderstaande podcast, wat oudere jongeren zoals ik vroeger een interview noemden.

Eerlijk gezegd heb ik mij niet heel erg verdiept in alle ins- en outs van de ontwikkeling van artificial intelligence op planeet Aarde, maar weet ik net genoeg om te begrijpen dat dit ieder mens op Aarde aangaat. Het is nuttig, zo niet noodzakelijk, dat meer mensen bewust worden van wat er nu gaande is en wat er mogelijk aankomt.
In een ander blog zal ik eens kijken wat (en hoe) ik kan vertellen over de Aardse ontwikkeling van kunstmatige intelligentie en ongeziene gebeurtenissen die hebben plaatsgevonden.

Ik hoop in ieder geval dat je onderstaande podcast wilt bekijken, al was het maar voor een deel.

Dr. Roman Yampolskiy is een toonaangevende stem in AI-veiligheid en Professor in Computer Science and Engineering. Hij bedacht in 2010 de term “AI-veiligheid” en publiceerde meer dan 100 artikelen over de gevaren van AI. Hij is ook de auteur van boeken zoals ‘Considerations on the AI Endgame: Ethics, Risks and Computational Frameworks’.

Ik haal toch even een gedeelte aan waar deze zeer deskundige Roman Yampolskiy op wijst:
“Zoveel als mogelijk mensen zouden zich bewust moeten worden dat de mensen en hun bedrijven die bezig zijn met de ontwikkeling van kunstmatige superintelligentie spelen met het leven van de mensheid. Ze doen dit zonder onze toestemming, ‘we’ zijn er niet van op de hoogte. Ze spelen met het uitsterven van de mensheid omdat ze met een ontwikkeling bezig zijn die ze zelf niet kunnen begrijpen, volgen en controleren. Niemand die het leven van anderen, laat staan de gehele mensheid, in gevaar brengt zou dit mogen doen zonder onze toestemming. 
Toch is dit wat er nu gebeurt. Om onze toestemming te krijgen zouden wij moeten begrijpen waar we toestemming aan geven. Als deze systemen niet uit te leggen zijn, onvoorspelbaar zijn, hoe kunnen we dan toestemming geven? We weten niet aan wat we toestemming geven. Dus per definitie is het onmogelijk om toestemming te krijgen. Dus dit experiment kan nooit ethisch plaatsvinden. Per definitie voeren ze onethische experimenten uit op menselijke entiteiten.

Vind je dat mensen zouden moeten protesteren?

Er zijn mensen aan het protesteren. Je kan actief worden in organisaties als Pause AI (www.pauseai.info) en stop AI (www.stopai.info). Deze organisaties proberen genoeg beweging, momentum op te bouwen om democratische instituten te bewegen invloed uit te oefenen om deze individuen (van de AI-bedrijven) te beïnvloeden.

Vind je dat meer mensen zouden moeten protesteren? Denk je dat dat een effectieve oplossing is?

Als je genoeg mensen op de been krijgt en een meerderheid van de bevolking participeert zodat het invloed krijgt. Maar ik weet niet of ze van de huidige aantallen kunnen opschalen naar zo’n participatie. Maar ik support iedereen die alles probeert, vreedzaam en legaal.

Moet ik anders kijken naar mijn familie, naar mijn kinderen, wat voor advies moet ik ze geven?

Een algemeen advies, buiten dit onderwerp, is dat je elke dag zou moeten leven alsof het je laatste is. Altijd een goed advies, hoe lang je ook nog te leven hebt, je leeft je beste leven. Dus probeer niet te lang dingen te doen die je haat. Doe interessante dingen, doe impactvolle dingen. Als je dat allemaal kunt doen terwijl je mensen helpt…doe dat.

Hieronder de playlist van Steven Bartlett over hetzelfde onderwerp: Artificial Intelligence & The Future of…

Jortus
2026