L’UE ouvre une enquête sur le X de Musk concernant l’IA de Grok et les possibles violations de la sécurité des enfants

L’Union européenne a ouvert une enquête officielle sur la plateforme de médias sociaux X d’Elon Musk, en raison de préoccupations que son chatbot d’intelligence artificielle Grok ait pu générer des images deepfake qui « pourraient constituer du matériel d’abus sexuel sur enfants ».

La Commission européenne a indiqué que l’enquête évaluera si X a respecté ses obligations en vertu de la loi sur les services numériques (DSA ) du bloc visant à identifier, évaluer et atténuer correctement les risques liés au déploiement de Grok dans les 27 États membres de l’UE.

L’enquête renforce l’examen des pratiques de modération de contenu de X et pourrait encore attiser les tensions entre Bruxelles et Washington.

Accent sur l’évaluation des risques et la réduction de la situation

Selon la Commission, l’enquête examinera si X a suffisamment pris en compte les risques systémiques liés au déploiement de Grok, en particulier le risque de générer des deepfakes sexuels non consentis impliquant des femmes et des enfants.

L’affaire relève de la DSA, le règlement général de l’UE sur les contenus en ligne qui impose des exigences strictes aux grandes plateformes pour empêcher la propagation de contenus illégaux et nuisibles.

« Les deepfakes sexuels non consentis de femmes et d’enfants sont une forme violente et inacceptable de dégradation », a déclaré Henna Virkkunen, commissaire européen à la technologie.

La Commission a indiqué que l’enquête n’impliquerait pas de mesures provisoires à ce stade.

En vertu de la loi sur les services numériques, entrée en vigueur en 2023, l’UE a le pouvoir d’imposer des amendes allant jusqu’à 6 % du chiffre d’affaires annuel mondial d’une entreprise en cas de non-intervention de contenus illégaux, de non-respect des risques systémiques ou de respect des exigences de transparence.

Un retour de bâton international croissant à propos de Grok

L’enquête de l’UE fait suite à la condamnation mondiale croissante de Grok ces dernières semaines.

Des utilisateurs de plusieurs pays ont signalé que le chatbot IA avait généré des images sexualisées et les avait publiées sur X, déclenchant des réactions négatives de la part des régulateurs et des défenseurs de la sécurité des enfants.

Au Royaume-Uni, le régulateur des communications Ofcom enquête déjà officiellement sur la question de savoir si X a violé la loi sur la sécurité en ligne du pays concernant les résultats de Grok.

Les autorités françaises et indiennes ont également exprimé des inquiétudes, accusant le chatbot de créer illégalement des images sexualisées de personnes sans leur consentement.

X, qui est une filiale de la société d’IA de Musk, xAI, a déjà déclaré qu’elle supprime les contenus illégaux, y compris les contenus d’abus sexuels sur enfants, suspend les comptes incriminés et coopère avec les forces de l’ordre lorsque cela est nécessaire.

Les tensions avec Washington planent

L’enquête Grok intervient peu après que l’UE ait imposé une pénalité distincte de 120 millions d’euros (142 millions de dollars) à X en vertu de la DSA.

Dans cette affaire précédente, les régulateurs européens ont conclu que le système de coche bleu payé de X avait induit en erreur les utilisateurs, que la plateforme n’avait pas fourni un accès adéquat aux données aux chercheurs, et qu’elle n’avait pas correctement établi un dépôt de transparence publicitaire.

Cette amende a suscité de vives critiques de la part de l’administration Trump, qui a présenté la réglementation numérique de l’UE comme une attaque contre la liberté d’expression et les entreprises technologiques américaines.

Avant la sanction de décembre, le vice-président américain JD Vance a écrit sur X que « l’UE devrait soutenir la liberté d’expression, et non attaquer les entreprises américaines pour des déchets. »

Les responsables européens, cependant, ont systématiquement rejeté ces affirmations, arguant que la DSA est conçue pour protéger les droits et la sécurité des utilisateurs plutôt que pour restreindre l’expression légale.