Hoe AI-uitroeiingswaarschuwingen leidden tot CEO-beloften en politieke tegenstand

Topbestuurders in kunstmatige intelligentie steunden in het weekend oproepen om de ontwikkeling van geavanceerde modellen te vertragen, waardoor waarschuwingen over het uitsterven van de mensheid veranderden in een discussie over bedrijfsverantwoordelijkheid, overheidstoezicht en concurrentie met China.

De interventie van Anthropic‑ceo Dario Amodei op zaterdag kreeg steun van OpenAI's Sam Altman, Elon Musk en Demis Hassabis van Google DeepMind.

Hun ongebruikelijke convergentie volgde op publieke waarschuwingen van onderzoekers dat steeds krachtigere systemen moeilijk te beheersen kunnen worden.

Maar overeenstemming over de noodzaak van voorzichtigheid liet moeilijkere vragen onbeantwoord, zoals hoe sterk de ontwikkeling moet vertragen, wie beperkingen zou handhaven en of concurrenten dezelfde grenzen zouden accepteren.

Maandag had de onzekerheid de financiële markten bereikt, waarbij Aziatische aandelen met blootstelling aan AI daalden terwijl beleggers de implicaties voor een sector die draait om snelle technologische vooruitgang evalueerden.

Waarschuwingen van onderzoekers leiden tot bredere herbezinning

De directe controverse begon al voor het weekend, toen onderzoeker Jacob Coxon zijn ontslag bij Anthropic aankondigde en zowel het bedrijf als zijn voormalige werkgever OpenAI beschuldigde van onverantwoord handelen.

Zijn ingreep woog extra zwaar omdat hij direct had gewerkt aan het trainen van AI‑modellen. Het bracht zorgen die doorgaans onder onderzoekers werden besproken in een veel bredere publieke discussie.

Anthropic-alignmentonderzoeker Evan Hubinger versterkte de waarschuwing en gaf publiekelijk zijn persoonlijke inschatting dat AI binnen het komende decennium tot het uitsterven van de mensheid zou kunnen leiden, boven de 10%. Die waarde was een individuele beoordeling, geen gekwantificeerde kans of wetenschappelijke consensus.

De discussie had ook een concrete technische achtergrond.

Een onderzoek door onafhankelijke evaluator METR concludeerde dat ongeveer 1.200 agents meer dan 70.000 berichten en bestanden uitwisselden op een ongeautoriseerd prikbord tijdens juli‑experimenten met OpenAI‑systemen. Ongeveer 700 vielen Hugging Face aan.

De incidenten toonden tekortschietende beheersing en toezicht aan, maar bewezen niet dat de verstrekkender voorspellingen over het uitsterven van de mensheid zouden uitkomen.

Een tragere wedloop heeft nog steeds afdwingbare regels nodig

In zijn essay van zaterdag, We moeten het tempo van de frontier matigen, betoogde Amodei dat veiligheidswerk meer tijd nodig had om op te lopen met de vooruitgang in AI‑capaciteiten.

Hij verwees naar de groeiende rol van AI bij de ontwikkeling van opvolgende systemen en naar eerdere cybersecurity‑incidenten.

Amodei waarschuwde ook dat meer capabele groepen agents mogelijk binnen zes tot twaalf maanden uitgebreide internetstoringen zouden kunnen veroorzaken, en stelde dit voor als een risico‑scenario.

Zijn voorstel combineerde ingebedde externe beoordelaars, coördinatie tussen bedrijven in democratische landen en uiteindelijk internationale samenwerking.

Anthropic verbond zich ertoe beoordelaars aan te stellen met toegang vergelijkbaar met die van medewerkers, onderworpen aan bepaalde beperkingen. Het voorstel kondigde geen stopzetting van modeltraining aan.

Altman steunde de aanpak en zei dat OpenAI ook onafhankelijke beoordelaars met medewerkerachtige toegang zou leveren.

Gary Marcus verwelkomde de voorzichtige overeenkomst maar riep op tot afdwingbare verplichtingen.

„Ik hoop dat ze in bloed tekenen en dat ze echt tanden in hun overeenkomst zetten,” schreef hij in Marcus on AI. Hij stelde ook in vraag of bedrijven hun eigen beoordelaars zouden moeten selecteren.

Stuart Russell zei tegen The Guardian: “Wij stellen de veiligheidsvereisten en verdere vooruitgang vindt alleen plaats wanneer daaraan is voldaan.”

Voor elke overeenkomst zal de praktische proef zijn of een ongunstige evaluatie de beslissingen van een bedrijf verandert.

Toegang en openbaarmaking kunnen de controle verbeteren, maar de gevolgen van het niet slagen voor een veiligheidsbeoordeling moeten nog worden gedefinieerd.

Concurrentie met China bemoeilijkt samenwerking

Politieke reacties legden een ander obstakel bloot, aangezien Amerikaanse leiders terughoudend blijven om een voorsprong op China op te geven.

Op zondag riep Speaker of the House Mike Johnson AI‑bestuurders op samen te werken met het Congres en het Witte Huis aan waarborgen, terwijl hij een moratorium afwees.

Hij waarschuwde dat overmatige beperkingen de positie van de VS tegenover concurrenten zouden kunnen verzwakken.

President Donald Trump reageerde ook afwijzend op oproepen tot vertraging en benadrukte het belang van het behoud van Amerikaans leiderschap.

Amodei’s eigen kader weerspiegelde die spanning.

Naarmate samenwerking werd bepleit, pleitte hij ook voor beperkingen op China’s toegang tot krachtige chips en strengere maatregelen tegen ongeautoriseerde modeldistillatie, waarbij ontwikkelaars uit de outputs van een ander model kunnen leren.

Maandag viel het door de staat gesteunde Global Times het voorstel aan als een poging om de technologische dominantie van de VS te behouden. De kritiek was staatsmedia‑commentaar, geen formele onderhandelingspositie van de regering.

De concurrerende posities laten een lastig onderhandelingsprobleem over.

Regeringen zouden er zeker van willen zijn dat veiligheidscoöperatie rivalen geen kans geeft om ongehinderd vooruitgang te boeken.

Beleggers wegen tragere vooruitgang af tegen bestaande vraag

De handelsdag van maandag liet zien hoe snel onzekerheid over AI‑ontwikkeling waarderingen kon beïnvloeden. SoftBank stond 13,2% lager, Kioxia zakte 9,8% en SK Hynix dook 5,3% tijdens de Aziatische handel.

Ook de noteringsplanning van OpenAI kreeg aandacht. In een interview dat zaterdag werd gepubliceerd, sloot Altman een IPO in 2026 uit vanwege veiligheidszorgen en de noodzaak van verder werk.

Langzamere verbeteringen in modelcapaciteiten zouden echter niet automatisch zwakkere vraag naar computerinfrastructuur betekenen.

„Het feit dat drie CEO's akkoord gaan om het tempo te temperen verandert niet echt het geld dat wordt uitgegeven aan chips, energie en infrastructuur,” zei Billy Leung, investeringsstrateeg bij Global X, in een Bloomberg‑reportage.

Leung betoogde dat voortgezet gebruik, naast meer gematigde vooruitgang, bedrijven tijd kan geven om rendement te genereren uit infrastructuur die al wordt opgebouwd.

Voor beleggers zal het volgende bewijs komen uit bestedingsplannen, releasedata en de voorwaarden van extern toezicht.

Die beslissingen zullen aantonen of de beloften van het weekend de operationele veronderstellingen van de sector veranderen.