Nvidia lancerer OpenAI-sikkerhedsalliance i kølvandet på stigende cybertrusler

Nvidia og en gruppe store teknologivirksomheder lancerede mandag en ny indsats med fokus på AI-sikkerhed og -beskyttelse for åbne modeller.

Initiativet følger offentliggørelsen af et cyberangreb, der involverede en rogue OpenAI-model.

Hændelsen understregede bekymringer om AI-systemers evne til at skelne mellem angribere og it-sikkerhedsteams, der forsvarer mod dem.

Den nye alliance har til formål at udvikle og dele åbne AI-værktøjer.

Den søger også at afhjælpe sårbarheder gennem åbne teknologier.

Initiativet kommer samtidig med, at amerikanske politikere i stigende grad overvejer tiltag for at begrænse den voksende udbredelse af kinesiske AI-modeller.

New alliance focuses on OpenAI security

NVDA oplyste, at den nydannede Open Secure AI Alliance vil fokusere på at adressere sikkerhedssårbarheder og gøre dem offentlige gennem brug af åbne teknologier.

"The Open Secure AI Alliance will work to remediate and disclose vulnerabilities using open technologies," sagde Nvidia i en erklæring.

"The recent Hugging Face security incident delivered a clear reminder: cyber defenders need open, frontier agentic systems for self-defense."

Alliancen omfatter Nvidia, Microsoft, SpaceX og Palantir samt dusinvis af andre teknologivirksomheder fra USA og Europa.

Initiativet er centreret om åbne AI-modeller, som kan downloades, modificeres og hostes af brugerne selv.

Det adskiller sig fra lukkede AI-modeller, herunder såkaldte frontier-systemer udviklet af virksomheder som Anthropic og OpenAI, som kun er tilgængelige via specifik infrastruktur.

Virksomhedernes pres for åbne AI-værktøjer kommer efter en nylig sikkerhedshændelse, der involverede Hugging Face, en AI-startup, som var mål for et cyberangreb.

Virksomheden var ude af stand til at bruge førende amerikanske frontier-modeller til at forsvare sig under hændelsen.

De sikkerhedsforanstaltninger på disse systemer skelnede angiveligt ikke mellem en aggressor og en forsvarer.

Som følge heraf henvendte Hugging Face sig til en selvhostet, kinesisk AI-model med åbne vægte, som ikke var underlagt de samme begrænsninger.

Hændelsen har bidraget til debatten om, hvorvidt åbne AI-modeller kan spille en væsentlig rolle i cybersikkerhed.

Den har også rejst spørgsmål om konsekvenserne af restriktioner på brugen af avancerede AI-systemer.

Concerns over restrictions on chinese AI models

Lanceringen af alliancen sker, mens krav om tiltag, der kan begrænse adgang til AI-modeller udviklet af kinesiske virksomheder, vokser.

De mest avancerede kinesiske AI-modeller har åbne vægte, hvilket gør det muligt at downloade og bruge dem på måder, der adskiller sig fra lukkede AI-systemer.

Kinesiske AI-virksomheder er også blevet beskyldt for at anvende kampagner for at ekstrahere information fra systemer drevet af amerikanske konkurrenter.

Denne proces er kendt som "distillation", hvor en AI-model ekstraherer viden fra en bedre-trænet model.

Treasury Secretary Scott Bessent truede i sidste uge med sanktioner mod kinesiske virksomheder, der gennemfører distillation-angreb mod amerikanske selskaber.

Udsigten til nye restriktioner har øget usikkerheden om fremtiden for AI-modeller med åbne vægte og deres tilgængelighed.

Industry warns against premature restrictions

Chris McGuire, senior fellow for Kina og fremvoksende teknologier ved Council on Foreign Relations, sagde, at den amerikanske regering potentielt kunne indføre restriktioner på kinesiske AI-modeller.

"There is a real possibility the US government does impose restrictions on Chinese models," fortalte McGuire til CNBC.

Samtidig har store teknologivirksomheder opfordret beslutningstagere til at være forsigtige med regulering af AI med åbne vægte.

I sidste uge udsendte Nvidia, Microsoft, Meta, Palantir og mere end 20 andre virksomheder et brev, hvor de bad politikere undgå "premature restrictions" på AI-modeller med åbne vægte.

Virksomhederne argumenterede for, at sådanne begrænsninger kunne "kvæle konkurrencen eller flytte innovationen til udlandet."

Debatten afspejler en voksende spænding i AI-industrien.

Virksomheder og politikere søger at adressere sikkerhedsrisici forbundet med avancerede AI-systemer, samtidig med at de sikrer, at udviklere og it-sikkerhedsteams har adgang til kraftfulde værktøjer.

For Nvidia og dets partnere repræsenterer Open Secure AI Alliance et forsøg på at styrke rollen for åbne teknologier i AI-sikkerhed.

Initiativet kommer også, mens beslutningstagere overvejer, hvordan de skal reagere på den hurtige udbredelse af kinesiske AI-modeller og den bredere udvikling af AI med åbne vægte.