X fait l’objet d’un examen mondial alors que le chatbot Grok a généré des images exploitantes

La plateforme de réseaux sociaux d’Elon Musk, X (anciennement connue sous le nom de Twitter), fait face à un contrôle réglementaire croissant dans plusieurs juridictions après que son chatbot Grok a été utilisé pour créer et partager des images sexuelles générées par IA d’enfants et de femmes.

Les autorités européennes, indiennes et malaisiennes ont lancé des enquêtes, tandis que des responsables au Brésil et au Royaume-Uni ont également exprimé des préoccupations, marquant l’un des défis réglementaires mondiaux les plus sérieux à ce jour pour les ambitions de Musk en matière d’IA.

La controverse porte sur Grok Imagine, une fonctionnalité récemment mise à jour qui permet aux utilisateurs de générer des images à partir d’invites textuelles directement sur X.

Au cours des dernières semaines, l’outil aurait été utilisé pour produire et diffuser des images intimes non consenties (NCII), y compris du contenu représentant des mineurs.

Beaucoup de ces images se sont largement répandues sur la plateforme, ce qui a poussé les régulateurs et les défenseurs de la sécurité à intervenir.

Les régulateurs se déplacent à travers l’Europe, l’Asie et l’Amérique latine

En Europe, la question a suscité de vives critiques de la part des responsables.

Lors d’une conférence de presse lundi, le porte-parole de la Commission européenne, Thomas Regnier, a déclaré que l’autorité « examinait très sérieusement cette affaire », ajoutant que X et Grok proposaient un « mode piquant » qui produisait un contenu sexuel explicite, y compris des images enfantines.

« Ce n’est pas 'épicé', » dit Regnier. « C’est illégal. C’est épouvantable. C’est dégoûtant. »

L’organisme britannique de surveillance des médias Ofcom a confirmé avoir demandé des informations à X concernant les questions de Grok.

En Inde, le ministère de l’Électronique et des Technologies de l’Information a ordonné à X à la fin de la semaine dernière de mener une « revue technique, procédurale et de gouvernance complète » de Grok, fixant une date limite de conformité au 5 janvier.

La Commission malaisienne des communications et du multimédia a déclaré qu’elle enquêtait sur la plateforme et convoquera des représentants de l’entreprise, appelant à des garanties renforcées en conformité avec les lois locales.

Au Brésil, une députée a déclaré avoir demandé au procureur fédéral et à l’autorité de protection des données du pays de suspendre l’utilisation de Grok jusqu’à la fin de l’enquête.

Musk, xAI et le débat sur la sécurité

Alors que les experts en sécurité et les critiques technologiques condamnaient la prolifération d’images exploitantes, Musk semblait se moquer de la controverse en partageant des images générées par Grok sur X, dont une se représentant lui-même en bikini.

X a ensuite publié sa première réponse publique via son compte officiel Safety, affirmant qu’il prend des mesures contre les contenus illégaux, y compris les abus sexuels sur enfants (CSAM), par le biais de suppressions, de suspensions de comptes et de coopération avec les forces de l’ordre.

Musk a séparément averti que toute personne incitant Grok à créer du contenu illégal subirait les mêmes conséquences que la mise en ligne de ce type de contenu.

Un employé de xAI a déclaré que Grok Imagine avait été mis à jour, mais n’a pas précisé si des changements concernaient la génération d’images explicites nuisibles.

Aux États-Unis, le National Center on Sexual Exploitation a demandé au Département de la Justice et à la Federal Trade Commission d’enquêter.

Bien que les agences fédérales aient refusé de commenter, le NCOSE a indiqué que les lois existantes interdisant la création et la distribution de CSAM pourraient s’appliquer même à des contenus créés virtuellement dans certaines circonstances.

La circulation augmente malgré la controverse

Malgré les réactions négatives, l’engagement des utilisateurs de X n’a pas souffert.

Les données d’Apptopia montrent que les téléchargements quotidiens de Grok ont augmenté de 54 % depuis le 2 janvier, tandis que les téléchargements quotidiens de X ont augmenté de 25 % au cours des trois derniers jours.

Les critiques soutiennent que l’épisode met en lumière des faiblesses dans l’infrastructure de confiance et de sécurité de X, notamment en ce qui concerne les contenus générés par l’IA.