Anthropic jatkaa neuvotteluja Pentagonin kanssa viime hetken sopuyrityksenä: raportti

Anthropicin toimitusjohtaja Dario Amodei on palannut neuvotteluihin Yhdysvaltain puolustusministeriön kanssa sen jälkeen, kun keskustelut kariutuivat viime viikolla siitä, miten armeija voi käyttää yhtiön tekoälyteknologiaa, Financial Timesin mukaan.

Keskustelujen tarkoituksena on ratkaista kiista Pentagonin pääsystä Anthropicin Claude-tekoälymalleihin, joita on jo otettu käyttöön luokitelluissa valtion verkoissa suuren puolustussopimuksen puitteissa.

Neuvottelut jatkuvat kariutumisen jälkeen

FT:n mukaan Amodei käy nyt keskusteluja Emil Michaelin, Pentagonin tutkimus- ja teknologia-asioiden alivaltiosihteerin, kanssa siinä, mitä asiaa tuntevat kuvailivat viime hetken yritykseksi saavuttaa sopimus siitä, miten armeija voi ottaa Anthropicin työkalut käyttöön.

Neuvottelut kariutuivat perjantaina, kun osapuolet eivät onnistuneet sovittamaan erimielisyyksiään teknologian käyttötarkoituksen laajuudesta.

Kariutumisen jälkeen presidentti Donald Trump ohjeisti liittovaltion virastoja lopettamaan Anthropicin ohjelmiston käytön, kun taas puolustusministeri Pete Hegseth sanoi, että yhtiö voitaisiin merkitä toimitusketjuriskiksi Yhdysvaltain kansalliselle turvallisuudelle.

Kiista muuttui myös henkilökohtaiseksi.

Michael arvosteli Amodeita julkisesti sosiaalisen median alustalla X julkaistussa viestissä kutsuen tätä "valehtelijaksi" ja sanoen hänen kärsivän "jumalakompleksista".

Erimielisyys tekoälyn sotilaskäytöstä

Konfliktin ytimessä on, kuinka pitkälle Pentagon voi mennä soveltaessaan Claude-tyyppisiä tekoälymalleja sotilasoperaatioissa.

Anthropicille myönnettiin 200 miljoonan dollarin sopimus, joka teki Claudesta ensimmäisen merkittävän tekoälymallin, joka otettiin käyttöön luokitelluissa valtion verkoissa.

Kuitenkin yhtiö pyrki myöhemmin saamaan vakuutuksia siitä, että sen teknologiaa ei käytettäisi kotimaiseen valvontaan eikä autonomisten asejärjestelmien käyttövoimana.

Pentagon sen sijaan on ajanut mahdollisuutta käyttää teknologiaa mihin tahansa lailliseen sotilaalliseen tarkoitukseen.

FT:n nähtäväksi saamassa Amodein työntekijöille lähettämässä muistiossa puolustusministeriö tarjoutui hyväksymään Anthropicin ehdot lähellä neuvottelujen loppua, jos tietty lause, joka viittasi "laajamittaisesti hankitun datan analyysiin", poistettaisiin.

Amodei kirjoitti, että sanamuoto kuvasti täsmälleen sitä käyttötapausta, josta yhtiö oli huolissaan.

Siinä missä Anthropic kohtasi puolustusministeriön suuttumusta, sen tekoälymallia Claudea käytettiin raporttien mukaan Yhdysvaltain armeijan Irania vastaan kohdistetuissa iskuissa, koska teknologia "lyhentää tappoketjua" — eli prosessia kohteen tunnistamisesta aina oikeudelliseen hyväksyntään ja iskun laukaisuun saakka.

Kilpailu OpenAI:n kanssa kiristyy

Kiista on levinnyt myös laajemmalle tekoälyalalle, korostaen kasvavaa kilpailua Anthropicin ja kilpailijansa OpenAI:n välillä.

Vain tunteja sen jälkeen, kun liittovaltion virastoja kehotettiin lopettamaan Anthropicin työkalujen käyttö, OpenAI solmi sopimuksen Pentagonin kanssa ja kertoi, että puolustusosasto oli hyväksynyt yhtiön rajoitukset.

Amodei väitti perjantaina työntekijöille lähettämässään muistiossa myös, että Pentagonin ja OpenAI:n — joka solmi oman sopimuksensa puolustusministeriön kanssa perjantaina — lausunnot olivat "suorastaan valheita näistä asioista tai yrittävät hämmentää niitä."

The Informationin mukaan erillisessä sisäisessä muistiossa aikaisemmin keskiviikkona Amodei myös kritisoi OpenAI:n johtajaa Sam Altmania, kutsuen tätä "valheelliseksi" ja syyttäen tätä antaneen, kuten hän kuvaili, "diktaattorityylistä ylistystä" Trumpille.

Amodei lisäsi, että Anthropic oli pitänyt kiinni "punaisista linjoistaan rehellisesti" sen sijaan, että olisi työskennellyt viranomaisten kanssa luodakseen hänen kuvaamansa "turvallisuusteatterin", jolla työntekijöitä yritetään rauhoitella.

Hän kirjoitti, että moni Washingtonissa, mukaan lukien virkamiehet Pentagonissa ja Palantirissa sekä poliittiset konsultit, oli olettanut, että juuri se oli se asia, jota yhtiö yritti ratkaista.

OpenAI:n sopimuksen ajoitus on herättänyt verkossa vastareaktion, ja raporttien mukaan Anthropicin Claude on kokenut latauspiikin samalla kun OpenAI:n ChatGPT:n poistot ovat lisääntyneet.

Altman myönsi myöhemmin myös, että hänen yhtiönsä ei olisi pitänyt kiirehtiä sopimustaan Pentagonin kanssa, ja sanoi rohkaisseensa viranomaisia olla määrittelemättä Anthropicia toimitusketjuriskiksi.

Alan huoli hallituksen paineesta

Tilanne on huolestuttanut osaa teknologiasektorista, joka pelkää, että kotimaisen tekoälykehittäjän merkitseminen kansallisen turvallisuuden riskiksi voi aiheuttaa laajempia seurauksia alalle.

Teknologiakauppajärjestö, jonka jäseniä ovat muun muassa Nvidia, Google ja Anthropic, lähetti tällä viikolla kirjeen puolustusministeri Hegsethille ilmaisten huolensa tällaisen luokituksen mahdollisuudesta.

Anthropic, jonka perustivat vuonna 2021 entiset OpenAI:n tutkijat, jotka lähtivät erimielisyyksien jälkeen yhtiön suunnasta, on asemoitunut turvallisuuteen keskittyvänä vaihtoehtona nopeasti laajenevassa tekoälymarkkinassa.

Neuvottelujen lopputulos voi luoda tärkeän ennakkotapauksen sille, miten yksityiset tekoälyyritykset tekevät yhteistyötä hallitusten kanssa, kun kehittyneet koneoppimisjärjestelmät integroituvat yhä tiiviimmin kansallisen turvallisuuden toimiin.