X enfrenta un nuevo escrutinio japonés mientras las preocupaciones sobre el deepfake de Grok se extienden por todo el mundo

Japón se ha sumado a una lista creciente de países que examinan X por el servicio de inteligencia artificial Grok de Elon Musk y preocupan que el chatbot pueda usarse para crear y difundir imágenes sexualizadas de personas sin su consentimiento.

El desarrollo añade nueva presión a la plataforma de redes sociales, ya que los reguladores de todo el mundo intensifican los controles sobre las herramientas de IA que puedan vulnerar la privacidad y los derechos de imagen.

La medida de Japón llega después de que Grok provocara una reacción negativa este mes por lo fácil que podría usarse para manipular fotos y sexualizar o denigrar a las personas. Aunque se han introducido restricciones, las autoridades afirman que el riesgo no se ha contenido completamente.

Según Bloomberg, la Oficina del Gabinete ha pedido a X que mejore las salvaguardas y limite la producción de imágenes sexualmente alteradas creadas a través de Grok, dijo el ministro de Seguridad Económica, Kimi Onoda.

Los funcionarios también presentaron preguntas por escrito sobre qué medidas tiene X para prevenir deepfakes y otras imágenes que violen la privacidad, la propiedad intelectual y el derecho a controlar el uso de su imagen, añadió.

La Oficina del Gabinete presiona a X para reforzar las salvaguardas de Grok

Onoda afirmó que el gobierno busca respuestas más claras sobre cómo X planea detener la creación de imágenes manipuladas dañinas, incluidos deepfakes sexualizados no consensuados.

La Oficina del Gabinete de Japón también está analizando si las medidas actuales de la plataforma son lo suficientemente efectivas para prevenir el mal uso, especialmente a medida que las herramientas se vuelven más accesibles y difíciles de detectar.

Grok recibió duras críticas este mes por parte de usuarios y gobiernos, desde Malasia hasta Italia, por la facilidad con la que podía usarse para manipular imágenes.

Desde entonces, Grok ha aplicado algunas restricciones a sus capacidades de generación de imágenes y las ha puesto tras un muro de pago.

Japón advierte que aún son posibles tomar medidas legales

La intervención de Japón ha ido acompañada de una advertencia de que es posible actuar con más fuerza si el problema continúa. En una rueda de prensa el viernes, Onoda dijo que todas las opciones siguen disponibles si X no mejora las salvaguardas.

Dijo que el gobierno está dispuesto a considerar medidas legales si no hay mejora.

Onoda también señaló que Japón podría tomar medidas similares contra otras plataformas si surge un problema similar en otros lugares, indicando que los reguladores están vigilando el mercado de IA en general, no solo Grok.

A principios de esta semana, xAI, la empresa detrás de Grok, anunció que está deshabilitando la posibilidad de que los usuarios generen imágenes sexualizadas de personas reales usando el chatbot.

Aun así, Onoda afirmó que la capacidad continua de crear este tipo de contenido sigue siendo motivo de preocupación y podría requerir medidas adicionales.

Las investigaciones globales se amplían a medida que los países estrechan el acceso

La medida de Japón llega mientras las investigaciones se expanden en múltiples jurisdicciones.

Canadá, California, la Unión Europea y estados miembros individuales de la UE como Francia están investigando si las imágenes generadas por Grok violan los derechos de las personas.

En algunas partes del sudeste asiático, las autoridades han optado por una vía más directa restringiendo el acceso.

Malasia, Indonesia y Filipinas han restringido el acceso doméstico a Grok, reflejando la creciente preocupación sobre la rapidez con la que el contenido generado por IA puede difundirse y lo difícil que puede ser contenerlo una vez creado.

El problema ha puesto a X y xAI bajo una renovada atención en un momento en que los gobiernos están cada vez más centrados en regular herramientas de IA que pueden difuminar la línea entre medios reales y sintéticos.

La ley japonesa sobre IA limita el poder de aplicación

Japón intenta equilibrar controles más estrictos con su ambición de alcanzar a Estados Unidos y China en materia de IA, un ámbito que considera importante para la estrategia nacional.

Sin embargo, su marco actual puede limitar la agresividad con la que puede responder.

La ley japonesa de IA, que entró en vigor plenamente en septiembre, no conlleva sanciones.

Esto limita la interferencia gubernamental principalmente a investigaciones y a la emisión de directrices formales cuando ocurren violaciones, en lugar de imponer sanciones directas.

Las discusiones entre los responsables políticos japoneses se han centrado en medidas como la educación de los usuarios y la exigencia de que los servicios de IA muestren cuándo se han manipulado imágenes.

Según Bloomberg, la Oficina del Gabinete también busca coordinar posibles pasos con el Ministerio de Justicia, la Agencia Nacional de Policía y el Ministerio de Comunicaciones.