X fait l’objet d’une nouvelle surveillance japonaise alors que les préoccupations liées au deepfake de Grok se propagent dans le monde entier

Le Japon s’est joint à une liste croissante de pays qui scrutent X au sujet du service d’intelligence artificielle Grok d’Elon Musk et des inquiétudes quant au fait que le chatbot puisse être utilisé pour créer et diffuser des images sexualisées de personnes sans leur consentement.

Ce développement renforce la pression sur la plateforme de réseaux sociaux, alors que les régulateurs du monde entier renforcent les contrôles sur les outils d’IA susceptibles de violer la vie privée et les droits à l’image.

Cette décision du Japon intervient après que Grok a suscité ce mois-ci des réactions négatives sur la facilité avec laquelle il pourrait être utilisé pour manipuler des photos afin de sexualiser ou de rabaisser des individus. Bien que des restrictions aient été introduites, les responsables affirment que le risque n’a pas été entièrement maîtrisé.

Selon Bloomberg, le Cabinet Office a demandé à X d’améliorer les garanties et de limiter la production d’images sexuellement modifiées créées par Grok, a déclaré le ministre de la Sécurité économique Kimi Onoda.

Les responsables ont également soumis des questions écrites sur les mesures mises en place par X pour empêcher les deepfakes et autres images qui violent la vie privée, la propriété intellectuelle et le droit de contrôler l’utilisation de leur image, a-t-elle ajouté.

Le Cabinet Office pousse X à renforcer les garanties de Grok

Onoda a indiqué que le gouvernement cherche des réponses plus claires sur la manière dont X prévoit d’empêcher la création d’images truquées nuisibles, y compris des deepfakes sexualisés non consentis.

Le Cabinet Office du Japon examine également si les mesures actuelles de la plateforme sont suffisamment efficaces pour prévenir les abus, surtout à mesure que ces outils deviennent plus accessibles et difficiles à détecter.

Grok a été vivement critiqué ce mois-ci par des utilisateurs et des gouvernements, de la Malaisie à l’Italie, concernant la facilité avec laquelle il pouvait être utilisé pour manipuler des images.

Depuis, Grok a appliqué certaines restrictions à ses capacités de génération d’images et les a placées derrière un paywall.

Le Japon avertit que des mesures légales restent possibles

L’intervention du Japon a été accompagnée d’un avertissement selon lequel une action plus forte est possible si le problème persiste. Lors d’une conférence de presse vendredi, Onoda a déclaré que toutes les options restaient disponibles si X n’améliorait pas les garanties.

Elle a ajouté que le gouvernement est prêt à envisager des mesures juridiques en cas d’amélioration.

Onoda a également indiqué que le Japon pourrait prendre des mesures similaires contre d’autres plateformes si le même problème survenait ailleurs, indiquant que les régulateurs surveillent le marché de l’IA au sens large, et pas seulement Grok.

Plus tôt cette semaine, xAI, la société derrière Grok, a annoncé qu’elle désactivait la possibilité pour les utilisateurs de générer des images sexualisées de personnes réelles à l’aide du chatbot.

Néanmoins, Onoda a indiqué que la capacité continue à créer de tels contenus reste préoccupante et pourrait nécessiter des mesures supplémentaires.

Les enquêtes mondiales s’élargissent alors que les pays resserrent l’accès

Cette initiative du Japon intervient alors que les enquêtes s’étendent à plusieurs juridictions.

Le Canada, la Californie, l’Union européenne et des États membres de l’UE comme la France enquêtent sur la question de savoir si les images générées par Grok violent les droits des citoyens.

Dans certaines régions d’Asie du Sud-Est, les autorités ont adopté une voie plus directe en restreignant l’access.

La Malaisie, l’Indonésie et les Philippines ont restreint l’accès domestique à Grok, reflétant l’inquiétude croissante quant à la rapidité avec laquelle les contenus générés par l’IA peuvent se propager et à la difficulté à contenir une fois créés.

Cette question a placé X et xAI sous une attention renouvelée à un moment où les gouvernements se concentrent de plus en plus sur la régulation des outils d’IA qui peuvent brouiller la frontière entre médias réels et synthétiques.

La loi japonaise sur l’IA limite le pouvoir d’application

Le Japon tente de concilier un contrôle plus strict avec son ambition de rattraper les États-Unis et la Chine en matière d’IA, un domaine qu’il considère comme important pour la stratégie nationale.

Cependant, son cadre actuel pourrait limiter sa capacité de réaction agressive.

La loi japonaise sur l’IA, entrée en vigueur en septembre, n’entraîne aucune sanction.

Cela limite principalement l’ingérence gouvernementale aux enquêtes et à la publication de directives formelles en cas de violation, plutôt que d’imposer des sanctions directes.

Les discussions au sein des décideurs japonais se sont concentrées sur des mesures telles que l’éducation des utilisateurs et l’obligation que les services d’IA montrent lorsque des images ont été modifiées.

Selon Bloomberg, le Cabinet Office cherche également à coordonner d’éventuelles étapes avec le ministère de la Justice, l’Agence nationale de police et le ministère des Communications.