Wat is superintelligentie en waarom roepen techreuzen op tot een verbod?

Meer dan 800 prominente figuren uit het hele technologische, wetenschappelijke, politieke en culturele spectrum hebben een openbare verklaring ondertekend waarin wordt opgeroepen tot een verbod op de ontwikkeling van "superintelligente" kunstmatige-intelligentiesystemen.

De coalitie, gecoördineerd door het Future of Life Institute en woensdag aangekondigd, omvat Apple-medeoprichter Steve Wozniak, oprichter van Virgin Group Richard Branson, vijf Nobelprijswinnaars, AI-pioniers Geoffrey Hinton en Yoshua Bengio, beiden vaak 'peetvaders van AI' genoemd.

Het omvat ook de voormalige voorzitter van de Amerikaanse Joint Chiefs, Mike Mullen, de AI-adviseur van paus Franciscus, Paolo Benanti, en zelfs prins Harry en Meghan, de hertog en hertogin van Sussex.

De politiek diverse groep weerspiegelt wat de organisatoren omschrijven als universele bezorgdheid over de existentiële risico's van machines die de menselijke intelligentie zouden kunnen overtreffen.

Wat is superintelligentie?

Superintelligentie, ook wel kunstmatige superintelligentie of ASI genoemd, verwijst naar een type AI dat slimmer zou zijn dan mensen op vrijwel elk gebied dat er toe doet.

Dat is heel anders dan de huidige AI-tools, zoals ChatGPT, die onder de categorie "smalle AI" vallen omdat ze zijn ontworpen om specifieke taken uit te voeren.

Zelfs de meest geavanceerde systemen die we nu hebben, inclusief grote taalmodellen zoals GPT-5, zijn nog steeds beperkt.

Ze kunnen code schrijven, essays opstellen en zelfs slagen voor examens, maar ze denken niet onafhankelijk, stellen hun eigen doelen of begrijpen de wereld niet zoals mensen dat doen.

Ze voorspellen eigenlijk alleen patronen op basis van trainingsgegevens, niet redeneren over de toekomst of autonome beslissingen nemen.

Sommige onderzoekers denken dat de volgende mijlpaal AGI is, kunstmatige algemene intelligentie, die de menselijke intelligentie zou evenaren en zelfstandig nieuwe taken zou leren.

Maar superintelligentie zou veel verder gaan dan dat.

In theorie zou het de mens kunnen overtreffen op het gebied van wetenschap, strategie, techniek, geneeskunde, eigenlijk elk cognitief domein, en zou het problemen kunnen oplossen die momenteel ver buiten ons bereik liggen.

Die exponentiële sprong is precies waarom het debat over de risico's zo intens is.

Waarom roepen tech-leiders op tot een verbod?

Degenen die de petitie hebben ondertekend, zeggen dat de huidige race naar superintelligentie, geleid door bedrijven als OpenAI, Google en Meta, veel sneller gaat dan regeringen of regelgevers kunnen bijhouden.

Zelfs insiders luiden de noodklok: Sam Altman heeft gezegd dat het hem zou verbazen als superintelligentie er in 2030 niet zou zijn, en Meta is zelfs zo ver gegaan om een deel van zijn AI-divisie "Meta Superintelligence Labs" te noemen, waarmee hij zijn ambities glashelder maakt.

De petitie beschrijft superintelligentie als een risico op de schaal van pandemieën of kernwapens.

Die framing is niet nieuw, want het weerspiegelt een verklaring uit 2023 van AI-managers die er bij wereldleiders op aandringen om het uitstervingsrisico van AI als een wereldwijde topprioriteit te beschouwen.

Voorstanders van het verbod zeggen dat de inzet existentieel is.

Als superintelligente systemen worden gebouwd zonder sterke veiligheidsregels, zo stellen ze, kunnen mensen de controle over kritieke systemen verliezen, te maken krijgen met massale economische ontheemding of veel slechtere resultaten tegemoet zien.

Stuart Russell, de AI-veiligheidsonderzoeker van UC Berkeley die de petitie ondertekende, benadrukte dat dit niet bedoeld is als een algemeen verbod, maar eerder als een eis dat er veiligheidsprotocollen zijn voor een technologie die, volgens zijn eigen makers, aannemelijk een einde zou kunnen maken aan de mensheid.

Deze petitie is de laatste in een groeiende golf van gecoördineerde pogingen om de stormloop naar steeds krachtigere AI te vertragen.