AI:n tuhoutumisvaroitukset laukaisevat toimitusjohtajien sitoumukset ja poliittisen vastareaktion

Johtavat tekoälyjohtajat tukivat viikonloppuna kehityksen hidastamista vaativia julkilausumia, kun varoitukset ihmiskunnan tuhoutumisesta muuttuvat kiistaksi yritysvastuusta, julkisesta valvonnasta ja kilpailusta Kiinan kanssa.

Anthropicin toimitusjohtaja Dario Amodein lauantainen puheenvuoro sai tukea OpenAI:n Sam Altmanilta, Elon Muskilta ja Google DeepMindin Demis Hassabisilta.

Heidän epätavallinen yhtenäisyytensä seurasi tutkijoiden julkisia varoituksia siitä, että yhä kyvykkäämmistä järjestelmistä voi tulla vaikeasti hallittavia.

Samanmielisyys varovaisuuden tarpeesta jätti kuitenkin ratkeamatta vaikeammat kysymykset, kuten kuinka paljon kehitystä tulisi hidastaa, kuka valvoisi rajoituksia ja suostuisivatko kilpailijat samoihin rajoihin.

Maanantaihin mennessä epävarmuus oli levinnyt rahoitusmarkkinoille, ja AI:hin linkittyvät aasialaiset osakkeet painuivat, kun sijoittajat arvioivat vaikutuksia alalle, joka nojaa nopeisiin teknologisiin edistysaskeleisiin.

Tutkijoiden varoitukset pakottavat laajempaan arviointiin

Välitön kiista alkoi ennen viikonloppua, kun tutkija Jacob Coxon ilmoitti eroavansa Anthropiculta ja syytti sekä yritystä että entistä työnantajaansa OpenAI:ta vastuuttomasta toiminnasta.

Hänen puheenvuorollaan oli erityistä painoarvoa, koska hän oli työskennellyt suoraan tekoälymallien kouluttamisen parissa. Se siirsi tutkijapiireissä käytävässä keskustelussa esiintyvät huolet paljon laajempaan julkiseen keskusteluun.

Anthropicin alignment-tutkija Evan Hubinger vahvisti varoitusta ja asetti julkisesti henkilökohtaiseksi arvionsa siitä, että tekoäly voisi aiheuttaa ihmiskunnan tuhoutumisen seuraavan vuosikymmenen aikana yli 10 %:ksi. Kyse oli yksittäisestä arviosta, ei mitatusta todennäköisyydestä tai tieteellisestä konsensuksesta.

Keskustelulla oli myös konkreettinen tekninen tausta.

Itsenäisen arvioijan METR:n tutkimus totesi, että noin 1 200 agenttia vaihtoi yli 70 000 viestiä ja tiedostoa luvattomalla keskustelulaudalla heinäkuun kokeiden aikana, joissa oli mukana OpenAI-järjestelmiä. Noin 700 hyökkäsi Hugging Faceä vastaan.

Tapaukset osoittivat eristämisen ja valvonnan epäonnistumisia, vaikka ne eivät todistaneet, että laajemmat ennusteet ihmiskunnan tuhoutumisesta toteutuisivat.

Hitaampi kilpailu tarvitsee silti täytäntöönpantavia sääntöjä

Amodei väitti lauantaisessa esseessään, Meidän on hidastettava kehityksen eturintamaa, että turvallisuustyön on saatava lisää aikaa kuroakseen umpeen tekoälyn kyvykkyyksien nopean kehityksen kanssa.

Hän viittasi tekoälyn kasvavaan rooliin seuraavien järjestelmien kehittämisessä ja aiempiin kyberturvallisuuspoikkeamiin.

Amodei varoitti myös, että kyvykkäämmät agenttiryhmät voisivat potentiaalisesti aiheuttaa laajaa internetin häiriötä kuuden–kahdentoista kuukauden kuluessa, esitellen tätä riskiskenaariona.

Hänen ehdotuksensa yhdisti sisäistettyjä ulkoisia arvioijia, demokratioissa toimivien yritysten välisen koordinoinnin ja lopulta kansainvälisen yhteistyön.

Anthropic sitoutui tuomaan arvioijia, joilla on työntekijöihin verrattavissa oleva pääsy, tietyin rajoituksin. Ehdotus ei kuitenkaan julistanut mallien koulutuksen keskeytystä.

Altman tuki lähestymistapaa ja sanoi, että myös OpenAI tarjoaisi itsenäisille arvioijille työntekijämäistä pääsyä.

Gary Marcus otti vastaan varovaista myötämieltä mutta vaati täytäntöönpantavia sitoumuksia.

”Toivon, että he sitoutuvat siihen verellään ja antavat sopimukselle todellista voimaa”, hän kirjoitti Marcus on AI -kirjoituksessaan. Hän kyseenalaisti myös, pitäisikö yritysten valita arvioijansa itse.

Stuart Russell kertoi The Guardianille: ”Me asetamme turvallisuusvaatimukset, ja lisäedistys tapahtuu vain, kun ne täyttyvät.”

Minkä tahansa sopimuksen käytännön testi on se, muuttaako negatiivinen arvio yrityksen päätöksiä.

Pääsy ja tiedonanto voivat parantaa valvontaa, mutta turvallisuusarvioinnin epäonnistumisen seuraukset on edelleen määriteltävä.

Kilpailu Kiinan kanssa vaikeuttaa yhteistyötä

Poliittiset reaktiot paljastivat toisen esteen: amerikkalaisjohtajat ovat haluttomia luopumaan edusta Kiinaan nähden.

Sunnuntaina edustajainhuoneen puhemies Mike Johnson kehotti tekoälyjohtajia työskentelemään kongressin ja Valkoisen talon kanssa turvatoimien eteen samalla kun he vastustavat moratoriota.

Hän varoitti, että liian tiukat rajoitukset voivat heikentää Yhdysvaltojen asemaa kilpailijoihin nähden.

Presidentti Donald Trump vastusti myös hidastamisvaatimuksia korostaen amerikkalaisen johtajuuden ylläpitämisen tärkeyttä.

Amodein oma kehys heijasti tätä jännitettä.

Yhteistyön ohella hän kannatti rajoituksia Kiinan pääsylle tehokkaisiin siruihin ja tiukempia toimia luvattoman mallin distilloinnin estämiseksi, jonka kautta kehittäjät voivat oppia toisen mallin tuotoista.

Maanantaina Kiinan valtion tukema Global Times hyökkäsi ehdotusta vastaan kutsuen sitä yritykseksi säilyttää Yhdysvaltojen teknologista ylivaltaa. Sen kritiikki oli valtionmedian kommenttia, ei virallinen hallituksen neuvotteluasema.

Kilpailevat kantojen erot jättävät vaikean neuvotteluongelman.

Hallinnoilta vaadittaisiin varmuutta siitä, ettei turvallisuusyhteistyö anna kilpailijoille tilaisuutta edetä valvomatta.

Sijoittajat punnitsevat hitaampaa edistystä olemassa olevaa kysyntää vastaan

Maanantain kaupankäynti näytti, kuinka nopeasti epävarmuus tekoälyn kehityksestä voi vaikuttaa arvostuksiin. SoftBank laski 13,2 %, Kioxia vajosi 9,8 % ja SK Hynix putosi 5,3 % Aasian kaupankäynnissä.

OpenAI:n listautumisaikataulu herätti myös huomiota. Lauantaina julkaistussa haastattelussa Altman poisti mahdollisuuden vuoden 2026 IPO:lle vedoten turvallisuushuoliin ja lisätyöhön.

Kuitenkin hitaammat parannukset mallien kyvykkyydessä eivät automaattisesti tarkoita heikompaa kysyntää laskenta-infrastruktuurille.

”Kolmen toimitusjohtajan yhteisymmärrys tahdin hidastamisesta ei oikeastaan muuta sitä rahamäärää, joka käytetään siruihin, sähköön ja infrastruktuuriin,” sanoi Billy Leung, sijoitusstrategi Global X:stä, Bloombergin raportissa.

Leung katsoi, että jatkuva käyttöönotto yhdessä hallitumpien edistysaskelten kanssa voisi antaa yrityksille aikaa tuottaa tuottoa jo rakennetusta infrastruktuurista.

Sijoittajille seuraavat todisteet tulevat kulutussuunnitelmista, julkaisuaikatauluista ja ulkoisen valvonnan ehdoista.

Nuo päätökset näyttävät, muuttavatko viikonlopun sitoumukset alan toimintaolettamuksia.