Nvidia käynnistää Open Secure AI -allianssin kasvavien kyberuhkien vuoksi

Nvidia ja joukko merkittäviä teknologiayrityksiä käynnistivät maanantaina uuden aloitteen, joka keskittyy tekoälyn turvallisuuteen ja suojaukseen avoimissa malleissa.

Toimenpide tulee aikana, jolloin teknologiasektorilla kasvaa huoli tekoälyn käytöstä kyberhyökkäyksissä ja Kiinan tekoälymallien lisääntyvästä tarkastelusta.

Aloite seuraa paljastunutta kyberhyökkäystä, johon liittyi villiintynyt OpenAI-malli.

Tapaus toi esiin huolen siitä, kykenevätkö tekoälyjärjestelmät erottamaan hyökkääjät ja niitä vastaan puolustavat kyberturvatiimit.

Uusi allianssi pyrkii kehittämään ja jakamaan avoimia tekoälytyökaluja.

Sen tavoitteena on myös korjata haavoittuvuuksia avoimien teknologioiden avulla.

Hanke tulee juuri silloin, kun Yhdysvaltain lainsäätäjät pohtivat yhä enemmän toimia, joilla rajoitettaisiin kiinalaisten tekoälymallien yhä laajempaa käyttöönottoa.

Uusi allianssi keskittyy Open Secure AI -turvallisuuteen

NVDA kertoi, että juuri muodostettu Open Secure AI Alliance keskittyy korjaamaan turvallisuuspuutteita ja julkistamaan ne käyttämällä avoimia teknologioita.

"Open Secure AI Alliance pyrkii korjaamaan ja julkistamaan haavoittuvuuksia käyttämällä avoimia teknologioita", Nvidia totesi lausunnossaan.

"Viimeaikainen Hugging Facen turvallisuuspoikkeama antoi selkeän muistutuksen: kyberpuolustajat tarvitsevat avoimia, agenttipohjaisia kärkimalleja itsepuolustukseen."

Allianssiin kuuluvat Nvidia, Microsoft, SpaceX ja Palantir sekä kymmeniä muita teknologiayrityksiä Yhdysvalloista ja Euroopasta.

Aloite keskittyy avoimiin tekoälymalleihin, jotka käyttäjät voivat ladata, muokata ja isännöidä itse.

Tämä eroaa suljetuista tekoälymalleista, mukaan lukien huippuluokan järjestelmät, joita kehittävät esimerkiksi Anthropic ja OpenAI ja jotka ovat käytettävissä vain tietyssä infrastruktuurissa.

Yritysten ajama painotus avoimiin tekoälytyökaluihin seuraa äskettäistä turvallisuuspoikkeamaa, jossa kohteena oli Hugging Face -niminen tekoälyaloitusyritys.

Tapahtuman aikana yritys ei pystynyt käyttämään johtavia yhdysvaltalaisia kärkimalleja puolustautumiseen.

Ilmoitusten mukaan näiden järjestelmien suojamekanismit eivät erotelleet aggressoria ja puolustajaa.

Tämän seurauksena Hugging Face turvautui itse isännöityyn, avoimilla painoilla olevaan kiinalaiseen tekoälymalliin, johon ei sovellettu samoja rajoitteita.

Tapaus on lisännyt keskustelua siitä, voivatko avoimet tekoälymallit olla tärkeässä roolissa kyberturvallisuudessa.

Se on myös herättänyt kysymyksiä siitä, mitä vaikutuksia edistyneiden tekoälyjärjestelmien käytön rajoituksilla voi olla.

Huolia rajoituksista kiinalaisiin tekoälymalleihin

Allianssin käynnistäminen tapahtuu samalla, kun vaatimukset toimista, jotka voisivat rajoittaa kiinalaisten yritysten kehittämien mallien saatavuutta, kasvavat.

Edistyneimmät kiinalaiset tekoälymallit ovat avoimilla painoilla varustettuja, mikä mahdollistaa niiden lataamisen ja käyttämisen tavoilla, jotka poikkeavat suljetuista järjestelmistä.

Kiinalaisia tekoälyyrityksiä on myös syytetty kampanjoista, joiden avulla ne pyrkivät poimimaan tietoa Yhdysvaltalaisiin kilpailijoihin kuuluvista järjestelmistä.

Tätä prosessia kutsutaan "distillaatioksi", jossa yksi tekoälymalli poimii tietoa paremmin koulutetusta mallista.

Valtiovarainministeri Scott Bessent uhkasi viime viikolla pakotteilla kiinalaisia yhtiöitä vastaan, jos ne toteuttavat distillaatiohyökkäyksiä yhdysvaltalaisia yrityksiä vastaan.

Uusien rajoitusten mahdollisuus on lisännyt epävarmuutta avopainoisien (open-weight) tekoälymallien tulevaisuuteen ja niiden saatavuuteen.

Teollisuus varoittaa ennenaikaisista rajoituksista

Chris McGuire, Council on Foreign Relationsin vanhempi tutkija Kiinan ja nousevien teknologioiden alueella, sanoi, että Yhdysvaltain hallitus voisi mahdollisesti asettaa rajoituksia kiinalaisille tekoälymalleille.

"On todellinen mahdollisuus, että Yhdysvaltain hallitus asettaa rajoituksia kiinalaisille malleille", McGuire kertoi CNBC:lle.

Samaan aikaan suuret teknologiayritykset ovat kehottaneet päättäjiä suhtautumaan varovaisesti avopainoisten tekoälymallien sääntelyyn.

Viime viikolla Nvidia, Microsoft, Meta, Palantir ja yli 20 muuta yritystä julkaisi kirjeen, jossa ne kehottoivat päättäjiä välttämään "enneaikaisia rajoituksia" avopainoisiin tekoälymalleihin.

Yritykset argumentoivat, että tällaiset rajoitukset voisivat "tukahduttaa kilpailua tai siirtää innovaatiota ulkomaille."

Keskustelu heijastaa kasvavaa jännitettä tekoälyteollisuuden sisällä.

Yritykset ja päättäjät pyrkivät ratkaisemaan edistyneiden tekoälyjärjestelmien turvallisuusriskejä samalla, kun he varmistavat kehittäjille ja kyberturvatiimeille pääsyn tehokkaisiin työkaluihin.

Nvidialle ja sen kumppaneille Open Secure AI Alliance edustaa pyrkimystä vahvistaa avoimien teknologioiden roolia tekoälyn turvallisuudessa.

Aloite toteutuu myös samaan aikaan, kun päättäjät punnitsevat, miten vastata kiinalaisten tekoälymallien nopeaan käyttöönottoon ja avopainoisen tekoälyn laajempaan kehitykseen.