Le régulateur britannique enquête sur X au sujet des images nuisibles de Grok AI au regard de la loi sur la sécurité en ligne

Le régulateur britannique des communications, Ofcom, a lancé une enquête officielle sur X, renforçant la surveillance réglementaire des outils d’intelligence artificielle intégrés dans les principales plateformes de réseaux sociaux.

L’enquête se concentre sur la question de savoir si X a respecté ses obligations légales en vertu de la loi sur la sécurité en ligne, suite à des préoccupations généralisées concernant la manière dont son chatbot IA, Grok, a été utilisé pour générer des contenus illégaux et nuisibles.

Cette mesure place le Royaume-Uni parmi une liste croissante de gouvernements qui se demandent si les garanties actuelles de l’IA sont suffisantes lorsque les outils de génération d’images et de texte sont largement accessibles en ligne.

Ofcom lance une enquête officielle

Ofcom a annoncé lundi avoir ouvert une enquête sur X, une filiale de xAI, afin d’évaluer les éventuels manquements au respect de la loi sur la sécurité en ligne.

La législation exige que les plateformes prennent des mesures pour protéger les utilisateurs contre les contenus illégaux et réduire les risques liés aux technologies émergentes.

Ofcom a le pouvoir d’infliger des amendes ou de bloquer les services si des violations sont confirmées.

Le régulateur analysera désormais les preuves fournies par la société avant de prendre une décision provisoire.

Si Ofcom détermine que la loi a été enfreinte, il pourrait imposer une pénalité sur X pouvant aller jusqu’à 10 % de son chiffre d’affaires mondial ou 18 millions de livres sterling, selon le montant le plus élevé.

Grok sous les projecteurs réglementaires

L’enquête se concentre sur Grok, un outil d’IA disposant de moins de protections que de nombreux chatbots grand public.

Les utilisateurs peuvent interagir directement avec Grok sur X en taguant le chatbot dans les publications, ce qui lui demande de générer du texte et des images qui apparaissent publiquement sur la plateforme.

Les régulateurs et les législateurs ont exprimé des inquiétudes après que les utilisateurs ont créé de grands volumes d’images non consenties et illégales, y compris du matériel impliquant des enfants et des femmes.

La loi britannique interdit la possession ou le partage d’images sexuelles d’enfants ainsi que la diffusion d’images intimes sans consentement, y compris le contenu généré à l’aide d’outils d’IA.

Ces normes légales s’appliquent que les images soient synthétiques ou modifiées numériquement.

Réponse de la plateforme et restrictions

Après que les utilisateurs aient à plusieurs reprises abusé des capacités de génération d’images de Grok, xAI a limité cette fonctionnalité aux utilisateurs payants sur X.

La même fonctionnalité est cependant restée gratuite sur l’application autonome Grok.

Elon Musk a averti ce mois-ci que toute personne utilisant Grok pour créer du contenu illégal subirait les mêmes conséquences que le téléchargement de contenus illégaux.

xAI a déclaré qu’elle supprime les publications qui enfreignent la loi, y compris les contenus d’abus sexuels sur enfants, et suspend les comptes reconnus en violation.

Le gouvernement britannique a indiqué que ces mesures pourraient être insuffisantes. Le secrétaire aux Affaires Peter Kyle a déclaré que les ministres envisageraient d’interdire X si nécessaire, tout en insistant sur le fait que le processus réglementaire doit suivre son cours.

Pression internationale croissante

Les inquiétudes concernant Grok ont dépassé le Royaume-Uni.

L’Indonésie et la Malaisie ont temporairement bloqué l’outil ce week-end, invoquant des risques liés à des contenus illégaux.

La Internet Watch Foundation, désignée par le gouvernement britannique pour aider à identifier les contenus d’abus sexuels sur enfants, a déclaré avoir trouvé des images criminelles d’enfants sur le dark web, prétendument générées par Grok.

Au niveau européen, la Commission européenne a ordonné à X de préserver les documents internes liés à Grok jusqu’à la fin de l’année.

Les autorités françaises ont accusé l’outil de générer des contenus manifestement illégaux sans consentement, signalant ainsi des violations potentielles de la loi européenne sur les services numériques.

La réglementation exige que les grandes plateformes en ligne atténuent les risques liés à la propagation de contenus illégaux, y compris ceux produits par IA.

Alors que les régulateurs de plusieurs juridictions intensifient leur attention sur les services alimentés par l’IA, l’enquête britannique sur X devrait tester comment les lois existantes sur la sécurité en ligne s’appliquent aux technologies génératives en rapide évolution.