Miksi Anthropicin Mythos-tekoäly hermostuttaa finanssivalvojia ja keskuspankkeja

Suurten talousalueiden finanssivalvojat kiristävät tarkastelua Anthropicin kehittämään uuteen tehokkaaseen tekoälymalliin, sillä kasvavat huolenaiheet viittaavat siihen, että sen edistynyt kyvykkyys voi paljastaa haavoittuvuuksia kriittisissä rahoitus- ja digitaalisissa järjestelmissä.

Japanin, Euroopan, Intian ja muiden alueiden viranomaiset koordinoivat vastauksia, kun Mythos-niminen malli herättää uusia kysymyksiä kyberturvallisuusriskeistä yhä tekoälyvetoisemmassa maailmassa.

Japan kutsuu koolle suurimmat pankit ja valvojat

Japanissa Financial Services Agency kertoi keskiviikkona, että se järjestää perjantaina korkean tason tapaamisen maan suurimpien pankkiryhmien, kuten Mitsubishi UFJ Financial Groupin, Sumitomo Mitsui Financial Groupin ja Mizuho Financial Groupin, kanssa.

Kokoukseen osallistuvat myös Bank of Japan ja Tokyo Stock Exchange, mikä heijastaa huolen laajuutta koko rahoitusjärjestelmässä.

Satsuki Katayama sanoi, että tavoitteena on koota keskeiset sidosryhmät arvioimaan tilanteen kehittymistä.

"Kootaan keskeiset toimijat, joilla on suurin vastuu, jotta voimme jakaa nykytilanteen arviot ja vaihtaa näkemyksiä, mukaan lukien kansainvälisen finanssiyhteisön eri osissa esiin nostetut kysymykset," hän sanoi.

Keskuspankit maailmanlaajuisesti varuillaan

Muiden alueiden sääntelijät ryhtyvät vastaaviin toimiin.

Australian keskuspankki (Reserve Bank of Australia) kertoi keskiviikkona seuraavansa kehitystä tarkasti ja "tekevänsä yhteistyötä muiden sääntelijöiden, hallituksen ja valvottavien tahojen kanssa."

Samaan aikaan Uuden-Seelannin keskuspankki (Reserve Bank of New Zealand) kuvaili riskejä keskiviikkona "kehittyviksi" ja vahvisti koordinoivansa kotimaisten ja australialaisten kollegoiden kanssa.

Intia on myös liittynyt globaaliin ponnisteluun.

Reutersin raportin mukaan Intian keskuspankki (Reserve Bank of India) keskustelee kansainvälisten sääntelijöiden, luotonantajien ja hallinnon edustajien kanssa arvioidakseen mahdollisia uhkia.

Alustavat arviot viittaavat siihen, että malli voisi nopeuttaa ohjelmistojen haavoittuvuuksien löytämistä ja hyväksikäyttöä, mikä lisää kyberturvallisuushuolia.

Asia on saavuttanut globaalin päätöksenteon korkeimmat tasot.

Kanadan valtiovarainministeri François-Philippe Champagne kertoi BBC:lle, että mallia oli käsitelty hiljattain Washingtonissa pidetyssä Kansainvälisen valuuttarahaston kokouksessa.

"Epäilemättä se on tarpeeksi vakava saadakseen kaikkien valtiovarainministerien huomion," hän sanoi, kuvatessaan teknologiaa "tuntemattomaksi tuntemattomaksi".

Vastaavasti Bank of Englandin pääjohtaja Andrew Bailey varoitti, että viranomaiset arvioivat huolellisesti seurauksia.

"Meidän täytyy nyt tarkastella hyvin huolellisesti, mitä tämä uusin tekoälykehitys voi merkitä kyberrikollisuuden riskin kannalta," hän kertoi BBC:lle.

Kyberturvallisuuden kaksiteräinen miekka

Vaikka Mythos on suunniteltu puolustaviin kyberturvallisuussovelluksiin, sen kyvykkyydet ovat herättäneet huolta.

Anthropicin mukaan varhaiset testit paljastivat "tuhansia" merkittäviä haavoittuvuuksia suurissa käyttöjärjestelmissä ja verkkoselaimissa.

Tiistaina Bundesbankin presidentti Joachim Nagel kuvaili mallia "kaksiteräiseksi miekkaksi."

"Sitä voitaisiin käyttää paitsi parantamaan digitaalisten turvajärjestelmien toimivuutta, myös hyödyntämään niiden haavoittuvuuksia pahantahtoisesti."

Asiantuntijat sanovat, että huoli kohdistuu siihen, kuinka nopeasti ja laajasti tällainen tekoälyjärjestelmä voi tunnistaa ja hyödyntää heikkouksia—paljon nopeammin kuin perinteiset turvallisuusreaktiot pystyvät vastaamaan.

Miksi Anthropic on rajoittanut pääsyä malliin?

Anthropic on rajoittanut pääsyn malliin hallitun aloitteen, Project Glasswingin, kautta.

Valikoiduille organisaatioille, kuten Amazonille, Microsoftille, Nvidialle ja Applelle, on myönnetty varhaispääsyä, samoin kuin kymmenille kriittistä digitaalista infrastruktuuria ylläpitäville tahoille.

Julkaisuvideolla Dario Amodei kertoi yhtiön tarjonneen yhteistyötä Yhdysvaltain viranomaisten kanssa "auttaakseen puolustautumaan näiden mallien aiheuttamilta riskeiltä."

Itsenäisten tutkijoiden, mukaan lukien niin kutsuttujen "red teamien", tekemät testaukset ovat korostaneet mallin kehittyneitä kykyjä.

Anthropicin mukaan Mythos voi itsenäisesti tunnistaa kriittisiä bugeja vanhemmissa järjestelmissä ja jopa ehdottaa keinoja niiden hyväksikäyttöön.

"Mythos Preview on jo löytänyt tuhansia vakavia haavoittuvuuksia, mukaan lukien joitakin kaikista merkittävimmistä käyttöjärjestelmistä ja verkkoselaimista," yhtiö sanoi.

"Tekoälyn kehitysvauhdin huomioon ottaen ei kestä kauan, ennen kuin tällaiset kyvyt leviävät, mahdollisesti myös tahoille, jotka eivät sitoudu käyttämään niitä turvallisesti."

Suurimmat riskit perintöjärjestelmissä

Potentiaalinen uhka on erityisen akuutti aloilla, jotka luottavat monimutkaiseen ja vanhenevaan infrastruktuuriin.

Bain & Companyn raportti totesi, että energia-, valmistus- ja kuljetusalat voivat kohdata lisääntyneitä riskejä vanhentuneiden järjestelmien vuoksi, joita on vaikea korjata.

Myös pankit ovat haavoittuvia, koska ne nojaavat toisiinsa kytkettyihin järjestelmiin, joista osa on peräisin vuosikymmenien takaa.

Raportissa korostettiin kuitenkin, että riskit ovat hallittavissa vahvoilla kyberturvallisuuskäytännöillä.

"Uhka on vakava, mutta ei ylitsepääsemätön, ja vahvat kyberturvallisuuden peruspilarit ovat paras puolustuksesi," siinä todettiin, ja lisäksi mainittiin, että olemassa olevat suojaustoimet, kuten verkon segmentointi, käyttöoikeuksien hallinta ja poikkeamien havaitseminen, voivat tarjota merkittävää suojaa.

Painopiste siirtyy valmistautumiseen paniikin sijaan

Sen sijaan, että kiirehditään kehittämään täysin uusia tekoälykohtaisia puolustuskeinoja, asiantuntijat katsovat, että organisaatioiden tulisi priorisoida olemassa olevien turvallisuuskehysten vahvistaminen.

Suosituksiin kuuluu erillisten tekoälyuhkiin vastaavien tiimien perustaminen, peruskyberturvatoimien parantaminen ja operatiivisen teknologian ympäristöjen haavoittuvuuksien korjaaminen.

Kun pääsy voimakkaisiin tekoälyjärjestelmiin laajenee, sekä sääntelijät että yritykset kohtaavat tasapainoilun—hyödyntää innovaation etuja samalla kun suojataan ei-toivotuilta seurauksilta.

Nopea globaali reagointi Mythos-asiaan viittaa siihen, että päätöksentekijät tiedostavat tilanteen vakavuuden.

Kysymys, riittävätkö nämä varhaiset toimet lieventämään uusien sukupolvien tekoälyn aiheuttamia riskejä, jää avoimeksi.