Werknemers van OpenAI en Google steunen Anthropic tegen het Pentagon

De confrontatie met veel op het spel tussen het Pentagon en Anthropic is uitgegroeid tot een bepalende strijd over wie de grenzen van baanbrekende technologie bepaalt — de Amerikaanse overheid of de private bedrijven die deze bouwen — en heeft zich uitgebreid naar de bredere AI-industrie, waar wetgevers scherpe kritiek uitten.

De kwestie heeft zeldzame publieke steun opgeroepen van werknemers van rivaliserende AI-bedrijven en heeft diepe verdeeldheid blootgelegd over toezicht, autonome wapens en nationale veiligheid.

Ondertussen hebben experts geprobeerd de nadelen van ongecontroleerd gebruik van de technologie in echte militaire omstandigheden wereldwijd te benadrukken, vaak met beperkte regelgeving, terwijl er vragen rijzen over vertrouwen in zowel overheden als de aanbieders van AI-diensten.

Werknemers van OpenAI en Google steunen Anthropic in open brief

Medewerkers van OpenAI en Google behoorden tot degenen die een open brief ondertekenden ter ondersteuning van Anthropic, een ongebruikelijke vertoning van solidariteit in een sector die wordt gekenmerkt door felle concurrentie.

De brief, getiteld “Wij zullen ons niet laten verdelen”, beschuldigt het Amerikaanse ministerie van Defensie van pogingen om Anthropic onder druk te zetten de beperkingen op het gebruik van zijn AI-modellen op te heffen.

In de open brief zeiden werknemers dat het ministerie van Defensie dreigde de Defense Production Act in te roepen, Anthropic te dwingen zijn model aan te passen aan militaire behoeften en het bedrijf te bestempelen als een "supply chain risk" als het weigerde te voldoen.

“Alles als vergelding omdat Anthropic zich aan hun rode lijnen houdt,” aldus de brief, verwijzend naar het bedrijf zijn verzet tegen massasurveillance en autonoom doden.

De ondertekenaars stelden dat het Pentagon probeerde bedrijven te isoleren door angst te scheppen dat concurrenten als eerste toe zouden geven.

“Ze proberen elk bedrijf te verdelen met de angst dat de ander zal toegeven,” zei de brief.

“Die strategie werkt alleen als niemand weet waar de anderen staan.”

De brief riep AI-leiders op om bedrijfsrivaliteit opzij te zetten en te blijven weigeren wat zij omschreven als de huidige eisen van de overheid om toestemming te geven voor manieren van AI-gebruik die de werknemers onveilig achten.

Altman probeert de spanningen te sussen

Hoewel de CEO’s van OpenAI en Google de brief niet ondertekenden, vertelde OpenAI’s CEO, Sam Altman, personeel dat het bedrijf werkte aan het helpen oplossen van het geschil.

Volgens een bericht van The Wall Street Journal schreef Altman in een mededeling aan medewerkers: “We zouden graag proberen de situatie te de-escaleren.”

Anthropic en het Pentagon liggen overhoop over hoe Claude kan worden ingezet in gevoelige defensie- en inlichtingendienstenoperaties.

Anthropic heeft gezegd dat het bereid is samen te werken met de overheid, maar alleen met waarborgen.

Pentagon herhaalt “geen wens te surveilleren” nu deadline voor Anthropic nadert

Functionarissen van het Pentagon stellen dat beslissingen over wettig militair en inlichtingengebruik bij de overheid liggen, niet bij private leveranciers.

Het ministerie van Defensie heeft een ultimatum aan Anthropic gesteld en eist dat het de voorwaarden uiterlijk vrijdagmiddag accepteert, anders worden er verstrekkende consequenties aangekondigd.

Eerder deze week zei hoofdswoordvoerder van het Pentagon Sean Parnell dat het ministerie geen wens had Amerikanen te surveilleren of volledig autonome wapens te ontwikkelen.

Maar hij benadrukte dat het leger niet zou toestaan dat bedrijven operationele beslissingen dicteren.

“Dit is een eenvoudig, gezond verstand verzoek dat zal voorkomen dat Anthropic kritieke militaire operaties in gevaar brengt en mogelijk onze militairen risico bezorgt,” schreef Parnell in een bericht op X.

“Ze hebben tot 17:01 ET op vrijdag om te beslissen.”

Anthropic heeft geweigerd “aan hun verzoek te voldoen”

Anthropic heeft geantwoord door zijn standpunt te verstevigen.

In een verklaring op donderdag zei het bedrijf: “Deze dreigementen veranderen onze positie niet: we kunnen ons met een gerust geweten niet aan hun verzoek onderwerpen.”

Het bedrijf lichtte zijn zorgen over surveillance toe en wees erop dat de Amerikaanse overheid volgens de huidige wetgeving gedetailleerde gegevens kan aanschaffen over de bewegingen, het webgedrag en de sociale verbanden van Amerikanen zonder gerechtelijk bevel.

Hoewel dergelijke gegevens op zichzelf onschuldig kunnen lijken, waarschuwde Anthropic dat AI het mogelijk maakt deze op grote schaal samen te voegen tot een alomvattend beeld van iemands leven, wat ernstige privacyzorgen oproept die door de inlichtingengemeenschap en wetgevers van beide partijen worden erkend.

Wat wapens betreft erkende Anthropic dat deels autonome systemen al een rol spelen in moderne oorlogsvoering en dat zelfs volledig autonome wapens op een dag cruciaal voor de nationale verdediging zouden kunnen zijn.

Maar het bedrijf stelde dat de huidige frontier-AI-systemen niet betrouwbaar genoeg zijn om dodelijke beslissingen te nemen zonder menselijke tussenkomst.

“We zullen niet bewust een product leveren dat de Amerikaanse militairen en burgers in gevaar brengt,” zei het bedrijf en betoogde dat de juiste waarborgen nog niet bestaan.

"Het is het voorrecht van het ministerie om aannemers te selecteren die het meest aansluiten bij hun visie. Maar gezien de substantiële waarde die de technologie van Anthropic onze strijdkrachten biedt, hopen we dat zij hun besluit heroverwegen," luidde de verklaring.

Persoonlijke aanvallen en politieke steun

Het geschil is steeds verhitter geworden.

Dario Amodei, de CEO van Anthropic, heeft scherpe kritiek gekregen van hoge Pentagonfunctionarissen.

Emil Michael, de ondersecretaris van Defensie, beschuldigde Amodei van een “Godcomplex”.

“Het is jammer dat @DarioAmodei een leugenaar is en een Godcomplex heeft,” schreef Michael op X.

“Hij wil niets liever dan persoonlijk het Amerikaanse leger controleren.”

Functionarissen van het ministerie van Buitenlandse Zaken namen ook sociale media in om de positie van het Pentagon te onderstrepen, terwijl verschillende Democratische wetgevers publiekelijk Anthropic steunden.

Mark Warner, de hoogste Democraat in de Senaatscommissie voor Inlichtingen, zei dat bedrijven soms concessies aan de overheid moeten doen, maar betoogde dat de zorgen van Anthropic gegrond waren.

Hij zei dat het bedrijf werd bedreigd door minister van Defensie Pete Hegseth omdat het veiligheid prioriteerde.

“Hij bedreigt hen, letterlijk al tegen morgen,” zei Warner in een online geposte video.

Een bredere verschuiving in macht

Analisten zeggen dat het conflict een diepere verschuiving weerspiegelt in hoe geavanceerde militaire technologie wordt ontwikkeld en gecontroleerd.

“Er zijn geen winnaars in dit,” zei Lauren Kahn, senior onderzoeksanalist bij het Center for Security and Emerging Technology van Georgetown, in een interview met CNBC.

“Het laat bij iedereen een bittere nasmaak achter.”

Rear Admiral Lorin Selby, voormalig hoofd van naval research en nu partner bij Mare Liberum, zei in het CNBC-rapport dat het grootste deel van de naoorlogse periode de Amerikaanse regering de grens van geavanceerde technologie bepaalde.

“Van nucleaire voortstuwing tot stealth tot GPS was de staat de belangrijkste motor van ontdekking, en de industrie de integrator en fabrikant,” zei hij.

AI heeft dat model omgedraaid.

“Vandaag is de commerciële sector de primaire aanjager van frontier-capaciteit,” zei hij.

"Privaat kapitaal, wereldwijde concurrentie, en commerciële datagrootte drijven AI in een tempo vooruit dat traditionele overheids-R&D-structuren niet gemakkelijk kunnen evenaren. The Department of War definieert niet langer de grens van wat technisch mogelijk is in kunstmatige intelligentie — het past zich eraan aan."

Experts luiden de alarmbel over “rommelige beleidsvoering”

Volgens de Council on Foreign Relations wordt AI al ingezet in echte militaire situaties wereldwijd, vaak met beperkte regulering.

Landen waaronder Israël, Rusland en Oekraïne zouden AI hebben gebruikt om te helpen bij het identificeren van doelen op het slagveld.

De secretaris-generaal van de VN heeft opgeroepen tot internationale dialoog over AI-veiligheidskaders, maar de VS hebben globale governancekaders afgewezen, terwijl hun eigen AI Action Plan juist oproept tot agressieve militaire adoptie.

“De groeiende kloof tussen internationale dialoog over militaire AI, die de neiging heeft risico’s en potentiële beperkingen in het gebruik te benadrukken, en de versnellende inspanningen van legers wereldwijd om AI te integreren zou alle naties ongerust moeten maken… staten zetten deze technologieën in met een lappendeken van rommelige beleidsvoering—als ze er al is—en zonder de mogelijkheid waardevolle inzichten over best practices van anderen te verkrijgen,” zei CFR Senior Fellow Michael C. Horowitz.

Wat nu?

Wat er na de deadline van vrijdag gebeurt, blijft onduidelijk.

Elke stap van het Pentagon om Anthropic te bestempelen als een supply chain risk of om naleving af te dwingen onder de Defense Production Act zou waarschijnlijk een juridische procedure door het bedrijf uitlokken.

Zo’n stap zou ook de werking van overheidsinstanties kunnen ontregelen.

Het Claude-model van Anthropic wordt veel gebruikt in geclassificeerde systemen voor inlichtingenanalyse, onder meer door de National Security Agency en de CIA.

Het verwijderen ervan zou agencies dwingen over te stappen op alternatieven zoals Grok, ontwikkeld door xAI, die huidige en voormalige functionarissen inferieur en moeilijk snel inzetbaar achten.

"Zelfs als het relletje tussen Anthropic en het Pentagon overwaait, blijven fundamentele dilemma’s bestaan met betrekking tot de verdeling van macht, arbeid en verantwoordelijkheid voor AI-veiligheid," schreef Michael Froman, president van CFR.

"Zal de rol van private bedrijven in het waarborgen van verantwoord AI-gebruik beperkt blijven tot het produceren van de meest betrouwbare en accurate AI-tools die de overheid naar eigen inzicht kan inzetten, of zullen deze bedrijven een meer fundamentele rol spelen bij het bepalen van aanvaardbare gebruiksscenario’s voor hun producten? Wie vertrouwen we meer, en wie minder — de overheid of een privaat bedrijf — om deze beslissingen te nemen?"

Een zeldzame vertoning van solidariteit in Silicon Valley test hoever de Amerikaanse overheid AI-bedrijven kan duwen op het gebied van militair gebruik, surveillance en autonome wapens.