Nvidia spouští alianci pro bezpečnost OpenAI kvůli rostoucím kybernetickým hrozbám

Nvidia a skupina předních technologických společností v pondělí zahájily novou iniciativu zaměřenou na bezpečnost a ochranu AI pro otevřené modely.

Tento krok přichází v době, kdy technologický sektor čelí rostoucím obavám z využití umělé inteligence v kybernetických útocích a zvýšenému dohledu nad čínskými AI modely.

Iniciativa následuje po odhalení kybernetického útoku, do něhož byl zapojen zneužitý model OpenAI.

Incident zvýraznil obavy o schopnost AI systémů rozlišit mezi útočníky a týmy kybernetické obrany.

Nová aliance si klade za cíl vyvíjet a sdílet otevřené nástroje pro AI.

Také usiluje o řešení zranitelností prostřednictvím otevřených technologií.

Tento krok přichází v době, kdy zákonodárci v USA čím dál častěji zvažují opatření omezující rostoucí adopci čínských AI modelů.

Nová aliance se zaměřuje na bezpečnost OpenAI

NVDA uvedla, že nově vzniklá Open Secure AI Alliance se zaměří na řešení bezpečnostních zranitelností a jejich zveřejňování za použití otevřených technologií.

„Open Secure AI Alliance bude pracovat na nápravě a zveřejňování zranitelností za využití otevřených technologií,“ uvedla Nvidia ve svém prohlášení.

„Nedávný bezpečnostní incident Hugging Face přinesl jasné varování: obránci proti kybernetickým hrozbám potřebují otevřené, frontierové agentní systémy pro vlastní obranu.“

V alianci jsou Nvidia, Microsoft, SpaceX a Palantir spolu s desítkami dalších technologických společností z USA a Evropy.

Iniciativa je zaměřena na otevřené AI modely, které si uživatelé mohou stáhnout, upravit a hostovat sami.

To se liší od uzavřených AI modelů, včetně frontierových systémů vyvinutých společnostmi jako Anthropic a OpenAI, které jsou přístupné pouze přes specifickou infrastrukturu.

Snaha firem prosadit otevřené AI nástroje přichází poté, co byl nedávno cílem kybernetického útoku startup Hugging Face.

Společnost během incidentu nemohla využít přední americké frontierové modely k obraně.

Uvedená bezpečnostní opatření na těchto systémech údajně nerozlišovala mezi útočníkem a obráncem.

V důsledku toho se Hugging Face obrátil na lokálně hostovaný čínský model s otevřenými váhami, který nebyl podroben stejným omezením.

Incident přispěl k debatě o tom, zda mohou otevřené AI modely hrát významnou roli v kybernetické bezpečnosti.

Také vyvolal otázky ohledně dopadu omezení na používání pokročilých AI systémů.

Obavy z omezení čínských AI modelů

Zahájení aliance přichází v době, kdy sílí výzvy k opatřením, která by mohla omezit přístup k AI modelům vyvinutým čínskými společnostmi.

Nejpokročilejší čínské AI modely mají otevřené váhy, což umožňuje jejich stažení a využití způsoby odlišnými od uzavřených AI systémů.

Čínské AI společnosti čelily také obviněním, že provádějí kampaně mající za cíl získat informace ze systémů provozovaných jejich americkými konkurenty.

Tento proces je znám jako „distillation“, při kterém jeden AI model extrahuje znalosti z lépe natrénovaného modelu.

Ministr financí Scott Bessent minulý týden pohrozil sankcemi čínským společnostem, které proti americkým firmám provádějí útoky typu „distillation“.

Vyhlídka nových omezení přidala nejistotu ohledně budoucnosti modelů s otevřenými váhami a jejich dostupnosti.

Průmysl varuje před předčasnými omezeními

Chris McGuire, senior fellow pro Čínu a rozvíjející se technologie v Council on Foreign Relations, řekl, že vláda USA by mohla potenciálně zavést omezení týkající se čínských AI modelů.

„Existuje reálná možnost, že vláda USA skutečně uloží omezení týkající se čínských modelů,“ řekl McGuire pro CNBC.

Současně hlavní technologické firmy vyzvaly tvůrce politik, aby při regulaci AI s otevřenými váhami zaujali opatrný přístup.

Minulý týden Nvidia, Microsoft, Meta, Palantir a více než 20 dalších společností zveřejnily dopis, v němž vyzývají tvůrce politik, aby se zdrželi „předčasných omezení“ modelů s otevřenými váhami.

Firmy argumentovaly, že taková omezení by mohla „udusit konkurenci nebo přenést inovace do zahraničí.“

Debata odráží rostoucí napětí v odvětví AI.

Firmy a tvůrci politik se snaží řešit bezpečnostní rizika spojená s pokročilými AI systémy a zároveň zajistit, aby vývojáři a týmy kybernetické bezpečnosti měly přístup k výkonným nástrojům.

Pro Nvidii a její partnery představuje Open Secure AI Alliance snahu posílit roli otevřených technologií v bezpečnosti AI.

Iniciativa také přichází ve chvíli, kdy tvůrci politik zvažují, jak reagovat na rychlou adopci čínských AI modelů a širší vývoj umělé inteligence s otevřenými váhami.