Nvidia crea alleanza per la sicurezza OpenAI mentre crescono le minacce informatiche

Nvidia e un gruppo di importanti aziende tecnologiche hanno lanciato lunedì una nuova iniziativa focalizzata sulla sicurezza dei modelli AI open.

La mossa avviene mentre il settore tecnologico affronta crescenti preoccupazioni sull'uso dell'intelligenza artificiale negli attacchi informatici e una maggiore attenzione verso i modelli AI cinesi.

L'iniziativa segue la divulgazione di un attacco informatico che ha coinvolto una versione malevola di un modello OpenAI.

L'incidente ha messo in evidenza le preoccupazioni sulla capacità dei sistemi AI di distinguere tra aggressori e i team di cybersecurity che li contrastano.

La nuova alleanza mira a sviluppare e condividere strumenti AI open.

Cerca inoltre di affrontare le vulnerabilità tramite tecnologie open.

L'iniziativa arriva in un momento in cui i legislatori statunitensi stanno valutando sempre più misure per limitare la crescente adozione dei modelli AI cinesi.

La nuova alleanza si concentra sulla sicurezza dei modelli OpenAI

NVDA ha dichiarato che la nuova Open Secure AI Alliance si concentrerà sull'affrontare le vulnerabilità di sicurezza e nel renderle pubbliche mediante l'uso di tecnologie open.

"L'Open Secure AI Alliance lavorerà per correggere e divulgare le vulnerabilità impiegando tecnologie open", ha detto Nvidia in una nota.

"Il recente incidente di sicurezza di Hugging Face ha fornito un chiaro promemoria: i difensori informatici hanno bisogno di sistemi agentici open e di frontiera per l'autodifesa."

All'alleanza aderiscono Nvidia, Microsoft, SpaceX e Palantir, insieme a decine di altre società tecnologiche statunitensi ed europee.

L'iniziativa è incentrata sui modelli AI open, che possono essere scaricati, modificati e ospitati dagli utenti stessi.

Questo si differenzia dai modelli AI chiusi, inclusi i sistemi di frontiera sviluppati da società come Anthropic e OpenAI, accessibili solo tramite infrastrutture specifiche.

La spinta delle aziende verso strumenti AI open segue un recente incidente di sicurezza che ha coinvolto Hugging Face, una startup AI presa di mira in un attacco informatico.

Durante l'incidente l'azienda non è stata in grado di utilizzare i principali modelli di frontiera statunitensi per difendersi.

I vincoli di sicurezza di quei sistemi, secondo quanto riportato, non riuscivano a distinguere tra un aggressore e un difensore.

Di conseguenza, Hugging Face si è rivolta a un modello AI cinese open-weight auto-ospitato che non era soggetto alle stesse restrizioni.

L'incidente ha alimentato il dibattito sul ruolo che i modelli AI open possono avere nella cybersicurezza.

Ha anche sollevato interrogativi sull'impatto delle restrizioni sull'uso di sistemi AI avanzati.

Preoccupazioni sulle restrizioni ai modelli AI cinesi

Il lancio dell'alleanza arriva mentre crescono le richieste di misure che potrebbero limitare l'accesso ai modelli AI sviluppati da aziende cinesi.

I modelli AI cinesi più avanzati sono open-weight, il che permette di scaricarli e usarli in modi differenti rispetto ai sistemi AI chiusi.

Le aziende AI cinesi sono state anche accusate di condurre campagne per estrarre informazioni da sistemi gestiti da rivali statunitensi.

Questo processo è noto come «distillation», in cui un modello AI estrae conoscenza da un modello meglio addestrato.

Il segretario al Tesoro Scott Bessent ha minacciato la scorsa settimana sanzioni contro le aziende cinesi che compiono attacchi di distillation contro società statunitensi.

La prospettiva di nuove restrizioni ha aggiunto incertezza al futuro dei modelli AI open-weight e alla loro disponibilità.

Il settore avverte contro restrizioni premature

Chris McGuire, senior fellow per la Cina e le tecnologie emergenti presso il Council on Foreign Relations, ha detto che il governo statunitense potrebbe introdurre restrizioni sui modelli AI cinesi.

"Esiste la reale possibilità che il governo USA imponga restrizioni sui modelli cinesi", ha detto McGuire a CNBC.

Allo stesso tempo, le principali aziende tecnologiche hanno esortato i responsabili politici ad adottare un approccio cauto nella regolamentazione dell'AI open-weight.

La scorsa settimana Nvidia, Microsoft, Meta, Palantir e oltre 20 altre società hanno pubblicato una lettera in cui invitano i decisori politici a evitare "restrizioni premature" sui modelli AI open-weight.

Le aziende hanno sostenuto che tali restrizioni potrebbero "soffocare la concorrenza o spingere l'innovazione all'estero".

Il dibattito riflette una tensione crescente all'interno del settore AI.

Aziende e responsabili politici cercano di affrontare i rischi di sicurezza legati a sistemi AI avanzati garantendo al contempo che sviluppatori e team di cybersecurity abbiano accesso a strumenti potenti.

Per Nvidia e i suoi partner, l'Open Secure AI Alliance rappresenta uno sforzo per rafforzare il ruolo delle tecnologie open nella sicurezza AI.

L'iniziativa arriva anche mentre i responsabili politici valutano come rispondere alla rapida adozione dei modelli AI cinesi e allo sviluppo più ampio dell'intelligenza artificiale open-weight.