Nvidia uruchamia sojusz bezpieczeństwa OpenAI wobec rosnących zagrożeń cybernetycznych

Nvidia i grupa czołowych firm technologicznych w poniedziałek uruchomiły nową inicjatywę skoncentrowaną na bezpieczeństwie AI i ochronie otwartych modeli.

Ruch ten następuje w momencie, gdy branża technologiczna stoi w obliczu rosnących obaw dotyczących wykorzystania sztucznej inteligencji w atakach cybernetycznych oraz zwiększonego nadzoru nad chińskimi modelami AI.

Inicjatywa powstała po ujawnieniu ataku cybernetycznego z udziałem zbuntowanego modelu OpenAI.

Incydent uwydatnił obawy dotyczące zdolności systemów AI do rozróżniania napastników od zespołów cyberbezpieczeństwa broniących się przed nimi.

Nowy sojusz ma na celu opracowywanie i udostępnianie otwartych narzędzi AI.

Ma też na celu rozwiązywanie luk bezpieczeństwa za pomocą otwartych technologii.

Działanie to ma miejsce w czasie, gdy ustawodawcy USA coraz częściej rozważają środki ograniczające rosnące wdrażanie chińskich modeli AI.

Nowy sojusz skupia się na bezpieczeństwie OpenAI

NVDA oświadczyła, że nowo powstały Open Secure AI Alliance skupi się na usuwaniu luk bezpieczeństwa i ujawnianiu ich publicznie przy użyciu otwartych technologii.

„Open Secure AI Alliance będzie pracować nad naprawą i ujawnianiem luk przy użyciu otwartych technologii” — stwierdziła Nvidia w oświadczeniu.

„Niedawny incydent bezpieczeństwa w Hugging Face był wyraźnym przypomnieniem: obrońcy cybernetyczni potrzebują otwartych, agentowych systemów typu 'frontier' do samoobrony.”

W sojuszu znajdują się Nvidia, Microsoft, SpaceX i Palantir oraz kilkadziesiąt innych firm technologicznych z USA i Europy.

Inicjatywa skupia się na otwartych modelach AI, które można pobrać, modyfikować i hostować samodzielnie przez użytkowników.

To różni się od zamkniętych modeli AI, w tym systemów typu 'frontier' rozwijanych przez firmy takie jak Anthropic i OpenAI, które są dostępne jedynie za pośrednictwem określonej infrastruktury.

Dążenie firm do otwartych narzędzi AI następuje po niedawnym incydencie bezpieczeństwa z udziałem Hugging Face, startupu AI, który padł ofiarą ataku cybernetycznego.

W trakcie incydentu firma nie była w stanie użyć wiodących amerykańskich modeli typu 'frontier' do obrony.

Ograniczenia w tych systemach podobno nie rozróżniały agresora od obrońcy.

W efekcie Hugging Face zwróciło się ku samodzielnie hostowanemu, chińskiemu modelowi AI o otwartych wagach ('open-weight'), który nie podlegał tym samym ograniczeniom.

Incydent nasilił debatę na temat tego, czy otwarte modele AI mogą odgrywać istotną rolę w cyberbezpieczeństwie.

Podniósł też pytania o wpływ ograniczeń na wykorzystanie zaawansowanych systemów AI.

Obawy dotyczące ograniczeń wobec chińskich modeli AI

Powstanie sojuszu następuje w czasie, gdy rosną wezwania do wprowadzenia środków, które mogłyby ograniczyć dostęp do modeli AI opracowanych przez chińskie firmy.

Najbardziej zaawansowane chińskie modele AI mają otwarte wagi ('open-weight'), co umożliwia ich pobieranie i używanie w sposób odmienny od zamkniętych systemów AI.

Chińskie firmy AI zostały również oskarżone o prowadzenie kampanii mających na celu wydobywanie informacji z systemów obsługiwanych przez amerykańskich konkurentów.

Proces ten znany jest jako „distillation”, w którym jeden model AI wyciąga wiedzę z lepiej wyszkolonego modelu.

Sekretarz Skarbu Scott Bessent w zeszłym tygodniu zagroził sankcjami wobec chińskich firm, które przeprowadzają ataki metodą 'distillation' przeciwko amerykańskim firmom.

Perspektywa nowych ograniczeń dodała niepewności co do przyszłości modeli AI o otwartych wagach ('open-weight') i ich dostępności.

Branża ostrzega przed przedwczesnymi ograniczeniami

Chris McGuire, starszy badacz ds. Chin i technologii wschodzących w Council on Foreign Relations, powiedział, że rząd USA mógłby potencjalnie wprowadzić ograniczenia dotyczące chińskich modeli AI.

„Istnieje realna możliwość, że rząd USA nałoży ograniczenia na chińskie modele” — powiedział McGuire w rozmowie z CNBC.

Jednocześnie duże firmy technologiczne zaapelowały do decydentów o ostrożne podejście przy regulowaniu modeli 'open-weight'.

W zeszłym tygodniu Nvidia, Microsoft, Meta, Palantir i ponad 20 innych firm opublikowały list apelujący do decydentów, aby unikać „przedwczesnych ograniczeń” wobec modeli 'open-weight' AI.

Firmy argumentowały, że takie ograniczenia mogłyby „zdławić konkurencję lub skłonić innowacje do przeniesienia się za granicę”.

Debata odzwierciedla rosnące napięcie w branży AI.

Firmy i decydenci dążą do rozwiązywania ryzyk bezpieczeństwa związanych z zaawansowanymi systemami AI, jednocześnie zapewniając deweloperom i zespołom cyberbezpieczeństwa dostęp do potężnych narzędzi.

Dla Nvidii i jej partnerów Open Secure AI Alliance oznacza próbę wzmocnienia roli otwartych technologii w bezpieczeństwie AI.

Inicjatywa pojawia się także, gdy decydenci rozważają, jak reagować na szybkie przyjęcie chińskich modeli AI i szerszy rozwój sztucznej inteligencji o otwartych wagach ('open-weight').