Nvidia startar OpenAI-säkerhetsallians mitt i ökande cyberhot

Nvidia och en grupp stora teknikföretag lanserade på måndagen ett nytt initiativ inriktat på AI-säkerhet för öppna modeller.

Initiativet kommer samtidigt som teknikbranschen står inför växande oro över användningen av artificiell intelligens i cyberattacker och ökad granskning av kinesiska AI-modeller.

Initiativet följer på offentliggörandet av en cyberattack som involverade en rogue-modell från OpenAI.

Händelsen belyste farhågor kring AI-systemens förmåga att särskilja mellan angripare och cybersäkerhetsteam som försvarar sig.

Den nya alliansen syftar till att utveckla och dela öppna AI-verktyg.

Den avser också att åtgärda sårbarheter genom öppna teknologier.

Initiativet kommer i ett läge där amerikanska lagstiftare i allt högre grad överväger åtgärder för att begränsa den växande användningen av kinesiska AI-modeller.

Ny allians fokuserar på OpenAI-säkerhet

NVDA sade att den nystartade Open Secure AI Alliance kommer att fokusera på att åtgärda säkerhetssårbarheter och offentliggöra dem genom användning av öppna teknologier.

”The Open Secure AI Alliance will work to remediate and disclose vulnerabilities using open technologies,” sade Nvidia i ett uttalande.

”Den senaste säkerhetsincidenten hos Hugging Face gav en tydlig påminnelse: cyberförsvarare behöver öppna, agentlika system i framkant för självförsvar.”

Alliansen inkluderar Nvidia, Microsoft, SpaceX och Palantir, tillsammans med flera dussin andra teknikföretag från USA och Europa.

Initiativet är centrerat kring öppna AI-modeller, som kan laddas ner, modifieras och köras av användarna själva.

Detta skiljer sig från slutna AI-modeller, inklusive frontlinjesystem utvecklade av företag som Anthropic och OpenAI, som endast är tillgängliga genom specifik infrastruktur.

Företagens satsning på öppna AI-verktyg kommer efter en nyligen inträffad säkerhetsincident som drabbade Hugging Face, en AI-startup som utsattes för en cyberattack.

Företaget kunde inte använda ledande amerikanska frontier-modeller för att försvara sig under incidenten.

Säkerhetsspärrarna i dessa system ska enligt uppgift inte ha kunnat särskilja mellan en angripare och en försvarare.

Som en följd vände sig Hugging Face till en självhostad kinesisk AI-modell med öppna vikter som inte omfattades av samma begränsningar.

Händelsen har bidragit till debatten om huruvida öppna AI-modeller kan spela en viktig roll inom cybersäkerhet.

Den har också väckt frågor om effekterna av begränsningar i användningen av avancerade AI-system.

Oro över begränsningar av kinesiska AI-modeller

Lanseringen av alliansen kommer samtidigt som krav växer på åtgärder som kan begränsa tillgången till AI-modeller utvecklade av kinesiska företag.

De mest avancerade kinesiska AI-modellerna har öppna vikter, vilket gör det möjligt att ladda ner dem och använda dem på sätt som skiljer sig från slutna AI-system.

Kinesiska AI-företag har också anklagats för att använda kampanjer för att extrahera information ur system som drivs av amerikanska konkurrenter.

Denna process är känd som ”distillation”, där en AI-modell utvinner kunskap från en bättre tränad modell.

Treasury Secretary Scott Bessent hotade förra veckan med sanktioner mot kinesiska företag som genomför distillation-attacker mot amerikanska företag.

Utsikten till nya restriktioner har ökat osäkerheten kring framtiden för öppna viktmodeller och deras tillgänglighet.

Branschen varnar för förhastade begränsningar

Chris McGuire, senior fellow för Kina och framväxande teknologier vid Council on Foreign Relations, sade att den amerikanska regeringen potentiellt skulle kunna införa restriktioner mot kinesiska AI-modeller.

”Det finns en verklig möjlighet att den amerikanska regeringen faktiskt inför restriktioner mot kinesiska modeller,” sade McGuire till CNBC.

Samtidigt har stora teknikföretag uppmanat lagstiftare att inta en försiktig hållning när det gäller reglering av öppna viktmodeller.

Förra veckan publicerade Nvidia, Microsoft, Meta, Palantir och mer än 20 andra företag ett brev där de uppmanade politiker att undvika ”förhastade begränsningar” av öppna viktmodeller.

Företagen hävdade att sådana begränsningar kan ”hämma konkurrens eller driva innovationen utomlands.”

Debatten speglar en växande spänning inom AI-branschen.

Företag och politiker försöker hantera säkerhetsrisker kopplade till avancerade AI-system samtidigt som de säkerställer att utvecklare och cybersäkerhetsteam har tillgång till kraftfulla verktyg.

För Nvidia och dess partner representerar Open Secure AI Alliance ett initiativ för att stärka rollen för öppna teknologier i AI-säkerhet.

Initiativet kommer också i ett läge där beslutsfattare väger hur de ska reagera på den snabba adoptionen av kinesiska AI-modeller och den bredare utvecklingen av AI med öppna vikter.