Nvidia lance une alliance pour la sécurité d'OpenAI face à la hausse des cybermenaces

Nvidia et un groupe de grandes entreprises technologiques ont lancé lundi une nouvelle initiative axée sur la sécurité et la sûreté de l'IA pour les modèles ouverts.

Cette initiative intervient alors que l'industrie technologique fait face à des inquiétudes croissantes concernant l'utilisation de l'intelligence artificielle dans les cyberattaques et à un examen accru des modèles d'IA chinois.

L'initiative fait suite à la révélation d'une cyberattaque impliquant un modèle OpenAI malveillant.

L'incident a mis en lumière des inquiétudes quant à la capacité des systèmes d'IA à distinguer les attaquants des équipes de cybersécurité qui défendent contre eux.

La nouvelle alliance vise à développer et partager des outils d'IA ouverts.

Elle cherche également à traiter les vulnérabilités via des technologies ouvertes.

Cette initiative intervient alors que les législateurs américains envisagent de plus en plus des mesures visant à limiter l'adoption croissante des modèles d'IA chinois.

Nouvelle alliance axée sur la sécurité d'OpenAI

NVDA a annoncé que la nouvelle Open Secure AI Alliance se concentrera sur la remédiation des vulnérabilités de sécurité et leur divulgation publique via l'utilisation de technologies ouvertes.

« The Open Secure AI Alliance travaillera à remédier aux vulnérabilités et à les divulguer en utilisant des technologies ouvertes », a déclaré Nvidia dans un communiqué.

« Le récent incident de sécurité chez Hugging Face a constitué un rappel clair : les défenseurs cybernétiques ont besoin de systèmes agentifs de pointe ouverts pour leur autodéfense. »

L'alliance comprend Nvidia, Microsoft, SpaceX et Palantir, ainsi que des dizaines d'autres entreprises technologiques des États-Unis et d'Europe.

L'initiative est centrée sur les modèles d'IA ouverts, qui peuvent être téléchargés, modifiés et hébergés par les utilisateurs eux-mêmes.

Cela diffère des modèles d'IA fermés, y compris les systèmes de pointe développés par des entreprises telles qu'Anthropic et OpenAI, qui ne sont accessibles que via une infrastructure spécifique.

L'incitation des entreprises en faveur d'outils d'IA ouverts intervient après un incident de sécurité récent impliquant Hugging Face, une startup d'IA ciblée par une cyberattaque.

La société n'a pas pu utiliser les principaux modèles de pointe américains pour se défendre pendant l'incident.

Les garde-fous de ces systèmes n'auraient apparemment pas distingué un agresseur d'un défenseur.

En conséquence, Hugging Face s'est tournée vers un modèle d'IA chinois open-weight auto-hébergé qui n'était pas soumis aux mêmes restrictions.

L'incident a alimenté le débat sur le rôle potentiel des modèles d'IA ouverts en cybersécurité.

Il a également soulevé des questions sur l'impact des restrictions concernant l'utilisation des systèmes d'IA avancés.

Inquiétudes concernant les restrictions sur les modèles d'IA chinois

Le lancement de l'alliance intervient alors que les appels en faveur de mesures pouvant limiter l'accès aux modèles d'IA développés par des entreprises chinoises se multiplient.

Les modèles d'IA chinois les plus avancés sont open-weight, ce qui permet de les télécharger et de les utiliser d'une manière différente des systèmes d'IA fermés.

Les entreprises d'IA chinoises ont également été accusées d'utiliser des campagnes pour extraire des informations depuis des systèmes exploités par des concurrents américains.

Ce processus est connu sous le nom de « distillation », dans lequel un modèle d'IA extrait des connaissances d'un modèle mieux entraîné.

Le secrétaire au Trésor Scott Bessent a menacé la semaine dernière d'imposer des sanctions aux entreprises chinoises menant des attaques de distillation contre des entreprises américaines.

La perspective de nouvelles restrictions a ajouté de l'incertitude quant à l'avenir des modèles d'IA open-weight et à leur disponibilité.

L'industrie met en garde contre des restrictions prématurées

Chris McGuire, chercheur principal pour la Chine et les technologies émergentes au Council on Foreign Relations, a déclaré que le gouvernement américain pourrait potentiellement introduire des restrictions sur les modèles d'IA chinois.

« Il est tout à fait possible que le gouvernement américain impose des restrictions sur les modèles chinois », a déclaré McGuire à CNBC.

Dans le même temps, les grandes entreprises technologiques ont exhorté les décideurs à adopter une approche prudente pour réglementer l'IA open-weight.

La semaine dernière, Nvidia, Microsoft, Meta, Palantir et plus de 20 autres entreprises ont publié une lettre appelant les décideurs à éviter des « restrictions prématurées » sur les modèles d'IA open-weight.

Les entreprises ont soutenu que de telles restrictions pourraient « étouffer la concurrence ou déplacer l'innovation à l'étranger ».

Le débat reflète une tension croissante au sein de l'industrie de l'IA.

Les entreprises et les décideurs cherchent à traiter les risques de sécurité liés aux systèmes d'IA avancés tout en veillant à ce que les développeurs et les équipes de cybersécurité aient accès à des outils puissants.

Pour Nvidia et ses partenaires, l'Open Secure AI Alliance représente une initiative visant à renforcer le rôle des technologies ouvertes dans la sécurité de l'IA.

L'initiative intervient également alors que les décideurs évaluent la manière de répondre à l'adoption rapide des modèles d'IA chinois et au développement plus large de l'intelligence artificielle open-weight.