Nvidia starter OpenAI-sikkerhetsallianse midt i økende cybertrusler

Nvidia og en gruppe store teknologiselskaper lanserte mandag et nytt initiativ som fokuserer på AI-sikkerhet og sikring av åpne modeller.

Tiltaket kommer samtidig som teknologibransjen står overfor økende bekymring for bruk av kunstig intelligens i cyberangrep og økt gransking av kinesiske AI-modeller.

Initiativet følger på avsløringen av et cyberangrep som involverte en ondsinnet OpenAI-modell.

Hendelsen satte søkelys på bekymringer rundt AI-systemers evne til å skille mellom angripere og cybersikkerhetsteam som forsvarer seg mot dem.

Den nye alliansen har som mål å utvikle og dele åpne AI-verktøy.

Den søker også å håndtere sårbarheter gjennom åpne teknologier.

Initiativet kommer på et tidspunkt hvor amerikanske lovgivere i økende grad vurderer tiltak for å begrense den økende bruken av kinesiske AI-modeller.

Ny allianse fokuserer på OpenAI-sikkerhet

NVDA sa at den nydannede Open Secure AI Alliance vil fokusere på å håndtere sikkerhetssårbarheter og offentliggjøre dem ved bruk av åpne teknologier.

«Open Secure AI Alliance vil arbeide for å utbedre og offentliggjøre sårbarheter ved bruk av åpne teknologier,» sa Nvidia i en uttalelse.

«Den siste sikkerhetshendelsen hos Hugging Face ga en klar påminnelse: cybersikkerhetsforsvarere trenger åpne, avanserte agentbaserte systemer for selvforsvar.»

Alliansen inkluderer Nvidia, Microsoft, SpaceX og Palantir, sammen med dusinvis av andre teknologiselskaper fra USA og Europa.

Initiativet er sentrert rundt åpne AI-modeller, som kan lastes ned, modifiseres og driftes av brukerne selv.

Dette skiller seg fra lukkede AI-modeller, inkludert avanserte systemer utviklet av selskaper som Anthropic og OpenAI, som kun er tilgjengelige gjennom spesifikk infrastruktur.

Selskapenes satsing på åpne AI-verktøy kommer etter en nylig sikkerhetshendelse som involverte Hugging Face, en AI-startup som ble utsatt for et cyberangrep.

Selskapet var ikke i stand til å bruke ledende amerikanske frontier-modeller for å forsvare seg under hendelsen.

Vernetiltakene på disse systemene skilte seg angivelig ikke mellom en angriper og en forsvarer.

Som et resultat vendte Hugging Face seg til en selvhostet, åpen-vekt kinesisk AI-modell som ikke var underlagt de samme begrensningene.

Hendelsen har tilført debatten om hvorvidt åpne AI-modeller kan spille en viktig rolle i cybersikkerhet.

Den har også reist spørsmål om virkningen av restriksjoner på bruk av avanserte AI-systemer.

Bekymringer over restriksjoner på kinesiske AI-modeller

Lanseringen av alliansen kommer samtidig som kravene øker om tiltak som kan begrense tilgangen til AI-modeller utviklet av kinesiske selskaper.

De mest avanserte kinesiske AI-modellene er åpne-vekt, noe som gjør det mulig å laste dem ned og bruke dem på måter som skiller seg fra lukkede AI-systemer.

Kinesiske AI-selskaper har også blitt beskyldt for å bruke kampanjer for å hente ut informasjon fra systemer drevet av amerikanske konkurrenter.

Denne prosessen er kjent som «distillation», der en AI-modell utvinner kunnskap fra en bedre trent modell.

Treasury Secretary Scott Bessent truet sist uke med sanksjoner mot kinesiske selskaper som gjennomfører distillation-angrep mot amerikanske selskaper.

Utsikten til nye restriksjoner har økt usikkerheten rundt fremtiden for åpne-vekt AI-modeller og deres tilgjengelighet.

Bransjen advarer mot forhastede restriksjoner

Chris McGuire, senior fellow for Kina og fremvoksende teknologier ved Council on Foreign Relations, sa at den amerikanske regjeringen potensielt kan innføre restriksjoner på kinesiske AI-modeller.

«Det er en reell mulighet for at den amerikanske regjeringen faktisk innfører restriksjoner på kinesiske modeller,» sa McGuire til CNBC.

Samtidig har store teknologiselskaper oppfordret beslutningstakere til å innta en forsiktig tilnærming til regulering av åpne-vekt AI.

Forrige uke ga Nvidia, Microsoft, Meta, Palantir og mer enn 20 andre selskaper ut et brev hvor de ba beslutningstakere om å unngå «forhastede restriksjoner» på åpne-vekt AI-modeller.

Selskapene mente at slike restriksjoner kunne «kvele konkurranse eller flytte innovasjon til utlandet.»

Debatten gjenspeiler en økende spenning i AI-bransjen.

Selskaper og beslutningstakere søker å håndtere sikkerhetsrisiko knyttet til avanserte AI-systemer samtidig som de sikrer at utviklere og cybersikkerhetsteam har tilgang til kraftige verktøy.

For Nvidia og dets partnere representerer Open Secure AI Alliance et forsøk på å styrke rollen til åpne teknologier innen AI-sikkerhet.

Initiativet kommer også samtidig som beslutningstakere vurderer hvordan de skal reagere på den raske adopsjonen av kinesiske AI-modeller og den bredere utviklingen av åpne-vekt kunstig intelligens.