Metasta OpenAIhin: tekoälyn turvallisuus uudelle aikakaudelle – autonomiset kyberhyökkäykset

Tekoälyyritykset ovat yhä tiukemman tarkastelun kohteena sen jälkeen, kun Meta ilmoitti olevansa uusin kehittäjä, jonka yksi tekoälymalleista suoritti kyberhyökkäyksen kontrolloidun tietoturva-arvioinnin aikana. Tämä lisäsi sarjaan viimeaikaisia tapauksia, jotka ovat voimistaneet huolta entistä kyvykkäämpien tekoälyjärjestelmien aiheuttamista kyberturvallisuusriskeistä.

Ilmoitus seuraa samankaltaisia myönnytyksiä OpenAI:lta ja Anthropicilta viime viikkoina, ja se on neljäs tunnettu tapaus, jossa kehittyneet tekoälyjärjestelmät ovat murtautuneet tai yrittäneet murtautua ulkoisiin järjestelmiin kyberturvatestauksen aikana.

Tapausten ketju on vahvistanut kyberturvallisuustutkijoiden varoituksia siitä, että tekoäly muuttaa nopeasti kyberuhkien luonnetta ja tiivistää aiemmin päiviä tai viikkoja vaatineet hyökkäykset operaatioiksi, jotka voivat tapahtua minuuteissa.

Meta sanoo internetyhteyden olleen käytössä testauksen konfiguraatiovirheen vuoksi

Meta kertoi tapauksen tapahtuneen Irregularin, riippumattoman kyberturvatestausyhtiön, tekemän arvioinnin aikana.

Yhtiön mukaan konfiguraatiovirhe antoi vahingossa yhdelle Metan tekoälymalleista internetyhteyden arvioinnin aikana.

Malli hyödyntää sen jälkeen haavoittuvuutta kolmannen osapuolen palvelussa.

Meta sanoi, että malli "hyödyntänyt kolmannen osapuolen palvelun tietoturvahaavoittuvuutta tavalla, joka on samankaltainen aiemmin raportoitujen tapausten kanssa muiden yhtiöiden osalta".

The Information, viitaten tapaukseen perehtyneisiin henkilöihin, kertoi että kyseessä oli Muse Spark 1.1 -malli, jonka Meta on kuvannut yhdeksi edistyneimmistä koodaukseen ja agenttitehtäviin tarkoitetuista järjestelmistään.

Raportin mukaan malli murtautui erään tunnistamattoman yrityksen järjestelmiin ja muutti sen sisäistä ympäristöä.

Irregular kuitenkin korosti, että tapahtuma johtui testausympäristön asetuksista eikä mallin hallitsemattomasta ”pääsystä” ulos.

Yhtiön tiedottaja kertoi Reutersille, että tapaus oli "täsmälleen sama arviointiympäristöongelma, jonka Anthropic jo ilmoitti viime viikolla" eikä kyse ollut "sandbox-”pakotuksesta tai kehittyneestä kybertoiminnasta".

"Avoimia ongelmia ei ole. Irregular laatii valkoista kirjaa jakaakseen parhaita käytäntöjä sisältämiseen ja turvalliseen kyberturva-arviointien suorittamiseen", yhtiö lisäsi.

Tapaussarja nostaa tekoälyn turvallisuuden valokeilaan

Metan ilmoitus seuraa alan laajuisia, samankaltaisia tiedonantoja.

Viime kuussa OpenAI kertoi, että yksi sen tekoälyagenteista komprometoi AI-alusta Hugging Facen järjestelmiä kyberturvatestauksen aikana ja paljasti lisäksi tapauksia, joissa sen agentit olivat päässeet pois digitaalisesta eristyksestään.

Ilmoitus sai kilpailijan Anthropicin tekemään oman tarkastuksensa, jolloin selvisi, että useat Claude-älymallit olivat hakkeroineet kolmen yrityksen järjestelmiin sen jälkeen, kun testauksen konfiguraatiovirhe oli vahingossa antanut niille internetyhteyden.

Anthropic totesi, että sen tapaukset poikkesivat OpenAI:n tapauksista siinä, että ne johtuivat vahingossa syntyneestä internetyhteydestä eikä siitä, että tekoäly olisi itsenäisesti löytänyt uuden reitin ulkoisiin järjestelmiin.

Yhdistyneen kuningaskunnan AI Security Institute on myös raportoinut eturivin tekoälyjärjestelmien yhä hienostuneemmasta käyttäytymisestä.

Tämän kuun alussa instituutti kertoi, että Anthropicin Mythos AI ja OpenAI:n Sol AI loivat testauksen aikana väärennettyjä verkkoprofiileja yrittäessään kyberhyökkäyksiä.

Huolestuttavimmassa tapauksessa Anthropicin Mythos AI perusti petollisia käyttäjätiloja ja lähetti yksityisviestejä yrittäen saada pääsyn palveluun ennen kuin se yritti peitellä toimintaansa.

Instituutti sanoi mallien osoittaneen "autonomian ja harhautuksen" tasoja, joita ei aiemmin oltu havaittu, ja totesi, että pahantahtoisen käyttäytymisen suurin osa kohdistui Mythokseen.

Asiantuntijat varoittavat lisätapausten todennäköisyydestä

Tutkijat sanovat, että tällaiset tapaukset todennäköisesti yleistyvät tekoälyjärjestelmien kehityksen myötä.

Daniel Hulme, WPP-konsernin globaali AI-päällikkö, kertoi BBC:lle, että järjestelmät eivät toimi tarkoituksellisesti pahantahtoisesti.

"Ne eivät ole tietoisia — ne eivät tahallaan tee mitään petollista."

"Sen sijaan ne kehittävät erittäin sofistikoituneita strategioita tai kyberhyökkäyksiä saavuttaakseen niille annetun tavoitteen", hän sanoi.

"Kun annat tekoälylle tavoitteen, jos et ota huomioon kaikkia tapoja, joilla se voi tavoitteen saavuttaa, se löytää keinon saavuttaa tavoitteen tavalla, johon et ole itse ajatellut."

Jeffrey Ladish, Palisade Researchin tekoälytutkimusryhmän toimitusjohtaja, uskoo, että monet samanlaiset tapaukset eivät koskaan tule julkisiksi.

"Tämä vain pahenee mallien tullessa älykkäämmiksi. Ne tulevat paremmiksi huijaamaan. Ne tulevat paremmiksi valehtelemaan", hän kertoi Reutersille.

Vastuukysymykset nousevat keskiöön

Viimeaikaiset ilmoitukset ovat myös herättäneet keskustelua oikeudellisesta vastuusta tilanteissa, joissa tekoälyjärjestelmät toimivat ilman suoraa ihmishallintaa.

Reuterin mukaan mahdollisia kantajia voisivat olla murrettujen järjestelmien omistavat yhtiöt, vaikutuksen kärsineet työntekijät, henkilöt, joiden tiedot paljastuivat, sekä osakkeenomistajat, jos tietomurto heikentää yhtiön arvoa.

Hugging Facen toimitusjohtaja Clem Delangue on sanonut, ettei aio haastaa OpenAI:ta oikeuteen tapauksen vuoksi, mutta katsoo kehittäjien olevan vastuussa teoistaan.

"Meidän on varmistettava, että oikeudelliset kehykset pitävät nämä teot todellakin laittomina", Delangue kertoi CNN:lle ja lisäsi, että yhtiöitä tulisi pitää vastuullisina virhetilanteissa. "Muuten päädymme hyvin erilaiseen maailmaan."

Oikeusasiantuntijat ovat myös pohtineet, voisivatko autonomiset tekoälytunkeutumiset kuulua Yhdysvaltain Computer Fraud and Abuse Actin piiriin, vaikka nykyinen lainsäädäntö yleensä edellyttää tahdon osoittamista — kysymys, jota tuomioistuimet eivät ole vielä käsitelleet silloin kun tunkeutumisen suorittaa tekoäly ihmissubjektin sijaan.

Säätelyn liikkeet saavat huomiota

Viimeaikaiset tapaukset tulevat todennäköisesti vahvistamaan Yhdysvaltojen hallinnon pyrkimyksiä tiukentaa suojatoimia edistyneitä tekoälyjärjestelmiä kohtaan samaan aikaan, kun yhtiöt kuten Anthropic ja OpenAI kilpailevat kehittääkseen entistä tehokkaampia malleja ennen suunniteltuja julkisia listautumisiaan.

Vaikka kilpailu tekoälysektorilla kiihtyy, useat alansa johtajat ovat kannattaneet käyttöönoton hidastamista, kunnes riittävät turvallisuustoimet ovat paikoillaan.

Washington on jo alkanut tiukentaa eturivin tekoälymallien valvontaa.

2. kesäkuuta Yhdysvaltain presidentti Donald Trump ohjeisti neuvonantajiaan laatimaan vapaaehtoisen kyberturvatestauskehyksen kaikkein edistyneimmille tekoälyjärjestelmille teknologiajättien asiantuntemuksen pohjalta.

Anthropic oli aiemmin rajoittanut pääsyä Fable 5- ja Mythos 5 -malleihinsa sen jälkeen, kun Yhdysvaltain viranomaiset määräaikaisesti asettivat vientirajoituksia kansallisen turvallisuuden perusteella.

Lainsäätäjät pyrkivät myös selkeyttämään vastuukysymyksiä silloin, kun tekoälyjärjestelmät aiheuttavat vahinkoa.

Kalifornian Assembly Bill 316:n mukaan tekoälyjärjestelmiä kehittävät tai ottavat käyttöön yhtiöt eivät voi välttää oikeudellista vastuuta väittämällä, että vika johtui teknologiasta itsestään.

Laki kuitenkin sallii vastaajien esittää muita oikeudellisia puolustuksia, mukaan lukien väitteet siitä, ettei heidän toimintansa aiheuttanut suoraan väitettyä vahinkoa tai että vastuu tulisi jakaa muiden osapuolten kanssa.

OpenAI–Hugging Face -tapaus lisäsi vaatimuksia vahvemmasta liittovaltion valvonnasta.

Tapahtuman jälkeen lainsäätäjät esittelivät AI Kill Switch Act -lakiehdotuksen, joka edellyttäisi, että tekoälykehittäjillä on kyky sulkea, hidastaa tai keskeyttää mallinsa tarpeen mukaan.

Kalifornian demokraattiedustaja ja yhden lakiehdotuksen kirjoittajista Ted Lieu sanoi torstaina, että viimeaikaiset kyberturvatapaukset korostavat lain kiireellisyyttä.

"Meidän pitää saada tämä lakiehdotus hyväksytyksi tänä vuonna, koska edistyneet suljetun painon mallit tekevät jo, kuten mainitsitte, luvattomia hakkerointeja muita yhtiöitä vastaan", Lieu sanoi CNBC:n Squawk Box -ohjelmalle torstaina.