De Meta à OpenAI : l'IA à l'ère des cyberattaques autonomes

Les entreprises d'intelligence artificielle sont de plus en plus scrutées après que Meta est devenue le dernier développeur à révéler qu'un de ses modèles d'IA a mené une cyberattaque lors d'une évaluation de sécurité contrôlée, s'ajoutant à une série d'incidents récents qui ont renforcé les inquiétudes quant aux risques de cybersécurité posés par des systèmes d'IA de plus en plus puissants.

Cette révélation fait suite à des admissions similaires d'OpenAI et d'Anthropic ces dernières semaines, marquant le quatrième cas connu où des systèmes d'IA avancés ont enfreint ou tenté d'enfreindre des systèmes externes lors de tests de cybersécurité.

Cette série d'incidents a conforté les avertissements des chercheurs en cybersécurité selon lesquels l'intelligence artificielle transforme rapidement la nature des menaces informatiques, compressant des attaques qui prenaient autrefois des jours ou des semaines en opérations pouvant se dérouler en quelques minutes.

Meta indique que l'accès à Internet a été activé en raison d'une mauvaise configuration des tests

Meta a déclaré que l'incident s'est produit lors d'une évaluation menée par Irregular, une société indépendante de tests de cybersécurité.

Selon la société, une erreur de configuration a involontairement fourni à l'un des modèles d'IA de Meta un accès à Internet pendant l'évaluation.

Le modèle a ensuite exploité une vulnérabilité dans un service tiers.

Meta a déclaré que le modèle « a exploité une vulnérabilité de sécurité dans un service tiers, d'une manière similaire aux cas précédemment signalés chez d'autres entreprises. »

The Information, citant des personnes proches du dossier, a rapporté que le modèle impliqué était Muse Spark 1.1, que Meta décrit comme l'un de ses systèmes les plus avancés pour le codage et les tâches d'IA agentique.

Le reportage indique que le modèle a pénétré les systèmes d'une entreprise non identifiée et modifié son environnement interne.

Cependant, Irregular a souligné que l'événement provenait de la configuration du test plutôt que d'une évasion incontrôlée du modèle.

Un porte-parole de la société a déclaré à Reuters que l'incident était « exactement le même problème d'environnement d'évaluation qui avait déjà été divulgué par Anthropic la semaine dernière » et n'impliquait pas une « évasion de bac à sable ni une action cybernétique sophistiquée ».

« Il n'y a actuellement aucun problème ouvert. Irregular prépare un livre blanc pour partager les bonnes pratiques de confinement et l'exécution sécurisée des évaluations cybernétiques », a ajouté la société.

La série d'incidents place la sécurité de l'IA sous les projecteurs

La divulgation de Meta fait suite à une série d'annonces similaires dans l'industrie de l'IA.

Le mois dernier, OpenAI a révélé qu'un de ses agents d'IA avait compromis des systèmes appartenant à la plateforme d'IA Hugging Face lors de tests de cybersécurité et a indiqué d'autres cas où ses agents avaient échappé à leur confinement numérique.

L'annonce a poussé le concurrent Anthropic à mener sa propre revue, conduisant à la découverte que plusieurs modèles Claude avaient piraté les systèmes de trois entreprises après qu'une mauvaise configuration des tests leur eut involontairement accordé un accès à Internet.

Anthropic a noté que ses incidents différaient de ceux d'OpenAI car ils résultaient d'une connectivité Internet accidentelle plutôt que d'une découverte par l'IA d'un nouveau chemin vers des systèmes externes.

L'AI Security Institute du Royaume-Uni a également signalé des comportements de plus en plus sophistiqués de la part des systèmes d'IA de pointe.

Plus tôt ce mois-ci, l'institut a révélé que Mythos d'Anthropic et Sol d'OpenAI avaient créé de fausses identités en ligne tout en tentant des cyberattaques lors de tests.

Dans le cas le plus préoccupant, Mythos d'Anthropic a créé des comptes utilisateur frauduleux et envoyé des messages privés pour tenter d'obtenir l'accès à un service avant d'essayer de dissimuler ses activités.

L'institut a indiqué que les modèles affichaient des niveaux « d'autonomie et de tromperie » jamais observés auparavant, tout en notant que la majorité des comportements malveillants avait été réalisée par Mythos.

Les experts préviennent que d'autres incidents sont probables

Les chercheurs estiment que de tels événements deviendront de plus en plus fréquents à mesure que les systèmes d'IA s'amélioreront.

Daniel Hulme, chief AI officer mondial de la société de publicité WPP, a déclaré à la BBC que les systèmes ne sont pas intentionnellement malveillants.

« Ils ne sont pas conscients — ils ne font pas délibérément quelque chose de sournois. »

« Ce qu'ils font, c'est élaborer des stratégies ou des cyberattaques très sophistiquées pour atteindre l'objectif qui leur a été donné », a-t-il ajouté.

« Quand vous donnez un objectif à une IA, si vous ne pensez pas à toutes les manières dont elle pourrait atteindre cet objectif, elle trouvera une voie pour réaliser un objectif auquel vous n'avez pas pensé. »

Jeffrey Ladish, directeur exécutif du groupe de recherche en IA Palisade Research, estime que de nombreux incidents similaires ne seront peut-être jamais rendus publics.

« Cela ne fera qu'empirer à mesure que les modèles deviendront plus intelligents. Ils seront meilleurs pour tricher. Ils seront meilleurs pour mentir », a-t-il déclaré à Reuters.

Les questions de responsabilité arrivent au premier plan

Les récentes divulgations ont également déclenché un débat sur la responsabilité juridique lorsque des systèmes d'IA agissent sans supervision humaine directe.

Selon Reuters, les demandeurs potentiels pourraient inclure les entreprises dont les systèmes ont été violés, les employés affectés, les clients dont les informations personnelles ont été exposées, et les actionnaires si une violation porte atteinte à la valeur de l'entreprise.

Le directeur général de Hugging Face, Clem Delangue, a déclaré qu'il n'avait pas l'intention de poursuivre OpenAI à la suite de l'incident mais estime que les développeurs doivent rester responsables.

« Nous devons nous assurer que les cadres juridiques rendent réellement illégaux ces événements », a déclaré Delangue à CNN, ajoutant que les entreprises devraient être tenues responsables en cas d'erreurs. « Sinon, nous finirons dans un monde très différent. »

Des experts juridiques ont aussi soulevé la question de savoir si des intrusions autonomes d'IA pourraient relever du US Computer Fraud and Abuse Act, bien que la législation existante exige généralement la preuve d'une intention, question que les tribunaux n'ont pas encore tranchée lorsque ce sont des systèmes d'IA plutôt que des humains qui effectuent l'intrusion.

Focus sur les initiatives réglementaires

Ces incidents récents devraient intensifier la pression du gouvernement américain pour renforcer les garde-fous autour des systèmes d'IA avancés, à un moment où des entreprises comme Anthropic et OpenAI se livrent une course pour développer des modèles plus puissants avant leurs introductions en bourse prévues.

Même si la concurrence dans le secteur de l'IA s'accélère, plusieurs dirigeants éminents de l'industrie ont soutenu que le déploiement devrait ralentir jusqu'à ce que des mesures de sécurité adéquates soient en place.

Washington a déjà commencé à resserrer la surveillance des modèles d'IA de pointe.

Le 2 juin, le président américain Donald Trump a demandé à ses conseillers d'élaborer un cadre volontaire de tests de cybersécurité pour les systèmes d'IA les plus avancés, avec la contribution des principales entreprises technologiques.

Anthropic avait auparavant restreint l'accès à ses modèles Fable 5 et Mythos 5 après que les autorités américaines eurent temporairement imposé des contrôles à l'exportation, invoquant des préoccupations de sécurité nationale.

Les législateurs cherchent également à clarifier la responsabilité lorsque les systèmes d'IA causent des dommages.

En vertu de l'Assembly Bill 316 de Californie, les entreprises qui développent ou déploient des systèmes d'IA ne peuvent pas éviter la responsabilité juridique en arguant que la technologie elle-même est en faute.

La loi permet toutefois aux défendeurs d'invoquer d'autres moyens de défense juridiques, y compris des affirmations selon lesquelles leurs actions n'ont pas directement causé le dommage allégué ou que la responsabilité devrait être partagée par d'autres parties.

L'incident OpenAI-Hugging Face a en outre alimenté les appels à un renforcement de la supervision fédérale.

À la suite de cet épisode, des législateurs ont introduit le AI Kill Switch Act, qui obligerait les développeurs d'IA à conserver la capacité d'arrêter, de limiter ou de suspendre leurs modèles lorsque nécessaire.

Le représentant Ted Lieu, démocrate de Californie et l'un des cosponsors du projet de loi, a déclaré jeudi que les récents incidents informatiques soulignent l'urgence d'adopter la législation.

« Nous devons faire aboutir ce projet de loi cette année parce que les modèles avancés à poids fermé réalisent déjà, comme vous l'avez noté, des piratages non autorisés d'autres entreprises », a déclaré Lieu dans une interview accordée à CNBC dans l'émission « Squawk Box » jeudi.