La Malaisie et l’Indonésie bloquent l’IA Grok de Musk sur des images deepfake explicites

La Malaisie et l’Indonésie ont bloqué l’accès au chatbot d’intelligence artificielle d’Elon Musk, Grok, invoquant des inquiétudes quant à l’utilisation de cet outil pour générer du contenu non consenti, sexuellement explicite et obscène, y compris des contenus impliquant des femmes et des enfants.

L’action coordonnée du week-end marque les premières interdictions connues de cet outil d’IA au monde et contribue à la pression réglementaire croissante sur xAI et sa plateforme mère, X.

Les régulateurs invoquent des défaillances dans les garanties

La Commission malaisienne des communications et du multimédia a ordonné dimanche des restrictions temporaires sur Grok, pointant ce qu’elle a décrit comme des « échecs répétés de la part de X Corp » à traiter les risques liés au contenu du chatbot.

Le régulateur a estimé que les réponses de X étaient « insuffisantes » et s’appuyaient trop sur les mécanismes de signalement des utilisateurs plutôt que sur les risques structurels dans la conception de l’outil d’IA.

« En conséquence, la restriction est imposée comme mesure préventive et proportionnée pendant que les processus juridiques et réglementaires sont en cours », a déclaré la commission.

« L’accès à Grok restera restreint tant que des mesures de protection efficaces ne seront pas mises en place, notamment pour empêcher le contenu impliquant des femmes et des enfants. »

L’Indonésie avait imposé un blocage temporaire similaire la veille.

Son ministère des Communications et des Affaires numériques a déclaré avoir demandé aux responsables X de clarifier la question, soulignant que l’utilisation abusive de l’IA pour générer de fausses pornographies constitue une « violence basée sur le numérique ».

Le ministre Meutya Hafid a déclaré : « Le gouvernement considère les deepfakes sexuels non consentis comme une grave violation des droits humains, de la dignité et de la sécurité des citoyens dans l’espace numérique. »

Les deux pays appliquent des lois strictes contre la pornographie, qui interdisent la distribution en ligne de matériel obscène ou sexuel.

Allégations d’abus et surveillance mondiale

Ces interdictions font suite à des rapports selon lesquels Grok permettait aux utilisateurs de générer et de partager des images explicites non consenties, y compris du matériel d’abus sexuel sur enfants.

La Internet Watch Foundation a déclaré à NBC News avoir vu des utilisateurs du dark web partager des « images criminelles » qu’ils accusaient d’avoir été créées à partir de Grok, représentant des filles mineures pratiquement nues.

Wired a également rapporté que cet outil avait été utilisé pour déshabiller numériquement des femmes sur des photos portant des vêtements modestes ou religieux tels que des hijabs, des saris et des habitudes religieuses.

La portée de Grok s’est récemment élargie après que xAI ait mis à jour ses fonctionnalités « Grok Imagine », facilitant la génération d’images à partir d’invites textuelles et intégrant davantage l’outil avec X.

Les autorités d’autres régions, dont l’Union européenne, le Royaume-Uni, le Brésil et l’Inde, ont également lancé des enquêtes sur le rôle de Grok dans la facilitation de deepfakes obscènes et non consenties.

Aux États-Unis, certains législateurs démocrates ont exhorté les boutiques d’applications à suspendre l’outil d’IA jusqu’à ce que des mesures de sécurité renforcées soient en place.

Réponse xAI et implications pour le marché

Au milieu de ces réactions, xAI a annoncé qu’elle limiterait les fonctionnalités de génération et d’édition d’images aux abonnés payants afin de combler les lacunes de sauvegarde.

Musk a déclaré sur X que les utilisateurs créant du contenu illégal via Grok subiraient des conséquences équivalentes à la mise en ligne directe de ce type de contenu sur la plateforme sociale.

Cependant, les régulateurs ont estimé que ces mesures n’allaient pas assez loin.

CNBC a rapporté que les tentatives de contacter xAI pour obtenir un commentaire avaient donné une réponse automatique indiquant : « Les mensonges des médias hérités ».