Nvidia lansează alianța Open Secure AI pe fondul creșterii amenințărilor cibernetice

Nvidia și un grup de companii tehnologice importante au lansat luni o nouă inițiativă axată pe siguranța și securitatea AI pentru modele open.

Măsura survine în contextul în care industria tehnologică se confruntă cu îngrijorări tot mai mari privind utilizarea inteligenței artificiale în atacuri cibernetice și cu o atenție sporită asupra modelelor AI chineze.

Inițiativa urmează dezvăluirea unui atac cibernetic implicând un model OpenAI disident.

Incidentul a evidențiat îngrijorările legate de capacitatea sistemelor AI de a distinge între atacatori și echipele de securitate cibernetică care se apără.

Noii alianți își propun să dezvolte și să partajeze instrumente AI open.

De asemenea, urmăresc să abordeze vulnerabilitățile prin tehnologii deschise.

Efortul intervine într-un moment în care legislatorii americani iau în considerare din ce în ce mai mult măsuri menite să limiteze adoptarea tot mai largă a modelelor AI chineze.

New alliance focuses on OpenAI security

NVDA a declarat că nou-înființata Open Secure AI Alliance se va concentra pe identificarea vulnerabilităților de securitate și pe publicarea lor prin utilizarea tehnologiilor deschise.

“The Open Secure AI Alliance will work to remediate and disclose vulnerabilities using open technologies,” Nvidia said in a statement.

“The recent Hugging Face security incident delivered a clear reminder: cyber defenders need open, frontier agentic systems for self-defense.”

Alianța include Nvidia, Microsoft, SpaceX și Palantir, împreună cu alte zeci de companii tehnologice din SUA și Europa.

Inițiativa se concentrează pe modele AI open, care pot fi descărcate, modificate și găzduite chiar de utilizatori.

Acest lucru diferă de modelele AI închise, inclusiv de sistemele de frontieră dezvoltate de companii precum Anthropic și OpenAI, care sunt accesibile doar prin infrastructură specifică.

Presiunea companiilor pentru instrumente AI open survine după un incident recent de securitate care a vizat Hugging Face, o startup AI atacată cibernetic.

Compania nu a putut utiliza modelele de frontieră de top din SUA pentru a se apăra în timpul incidentului.

Se pare că mecanismele de protecție ale acelor sisteme nu au făcut diferența între un agresor și un apărător.

Ca urmare, Hugging Face a apelat la un model AI chinezesc open-weight găzduit local, care nu era supus acelorași restricții.

Incidentul a adăugat combustibil dezbaterii privind dacă modelele AI open pot juca un rol important în securitatea cibernetică.

De asemenea, a ridicat întrebări despre impactul restricțiilor asupra utilizării sistemelor AI avansate.

Concerns over restrictions on chinese AI models

Lansarea alianței survine pe măsură ce solicitările pentru măsuri care ar putea limita accesul la modelele AI dezvoltate de companii chineze devin tot mai numeroase.

Cele mai avansate modele AI chineze sunt open-weight, permițându-le să fie descărcate și utilizate în moduri diferite față de sistemele AI închise.

Companiile chineze de AI au fost, de asemenea, acuzate de derularea unor campanii pentru extragerea de informații din sistemele operate de concurenți americani.

Procesul este cunoscut sub numele de “distillation”, prin care un model AI extrage cunoștințe dintr-un model mai bine antrenat.

Secretarul Trezoreriei Scott Bessent a amenințat săptămâna trecută cu sancțiuni companiile chineze care desfășoară atacuri de tip distillation împotriva companiilor americane.

Perspectivele unor noi restricții au adăugat incertitudine în privința viitorului modelelor AI open-weight și a disponibilității lor.

Industry warns against premature restrictions

Chris McGuire, senior fellow pentru China și tehnologii emergente la Council on Foreign Relations, a afirmat că guvernul SUA ar putea introduce restricții asupra modelelor AI chineze.

“There is a real possibility the US government does impose restrictions on Chinese models,” McGuire told CNBC.

În același timp, marile companii tehnologice au îndemnat factorii de decizie să abordeze cu prudență reglementarea AI open-weight.

Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir și peste 20 de alte companii au publicat o scrisoare prin care solicită factorilor de decizie să evite “restricțiile premature” asupra modelelor AI open-weight.

Companiile au susținut că astfel de restricții ar putea “suprima competiția sau ar putea împinge inovația în străinătate”.

Dezbaterea reflectă o tensiune în creștere în interiorul industriei AI.

Companiile și factorii de decizie caută să gestioneze riscurile de securitate asociate sistemelor AI avansate, asigurând în același timp accesul dezvoltatorilor și echipelor de securitate la instrumente puternice.

Pentru Nvidia și partenerii săi, Open Secure AI Alliance reprezintă o acțiune pentru consolidarea rolului tehnologiilor deschise în securitatea AI.

Inițiativa survine și în condițiile în care factorii de decizie evaluează cum să răspundă la adoptarea rapidă a modelelor AI chineze și la dezvoltarea mai largă a inteligenței artificiale open-weight.