La UE abre una investigación sobre la X de Musk por la IA de Grok y posibles violaciones de la seguridad infantil

La Unión Europea ha abierto una investigación formal sobre la plataforma de redes sociales X de Elon Musk debido a preocupaciones de que su chatbot de inteligencia artificial Grok podría haber generado imágenes deepfake que "podrían constituir material de abuso sexual infantil."

La Comisión Europea afirmó que la investigación evaluará si X cumplió con sus obligaciones bajo la Ley de Servicios Digitales (DSA) del bloque de identificar, evaluar y mitigar adecuadamente los riesgos asociados al despliegue de Grok en los 27 estados miembros de la UE.

La investigación aumenta el escrutinio sobre las prácticas de moderación de contenidos de X y podría avivar aún más las tensiones entre Bruselas y Washington.

Enfoque en la evaluación y mitigación de riesgos

Según la Comisión, la investigación examinará si X abordó adecuadamente los riesgos sistémicos vinculados al despliegue de Grok, especialmente el riesgo de generar deepfakes sexuales no consentidos que involucran a mujeres y niños.

El caso se encaja en la DSA, el amplio reglamento de contenido online de la UE que impone requisitos estrictos a las grandes plataformas para prevenir la difusión de material ilegal y dañino.

"Los deepfakes sexuales no consentidos de mujeres y niños son una forma violenta e inaceptable de degradación", dijo la comisionada de tecnología de la UE, Henna Virkkunen.

La Comisión afirmó que la investigación no implicará medidas provisionales en esta fase.

Bajo la Ley de Servicios Digitales, que entró en vigor en 2023, la UE tiene el poder de imponer multas de hasta el 6% de la facturación anual mundial de una empresa por no abordar contenidos ilegales, mitigar riesgos sistémicos o cumplir con los requisitos de transparencia.

Creciente reacción internacional por Grok

La investigación de la UE sigue a la creciente condena global de Grok en las últimas semanas.

Usuarios de varios países han informado de que el chatbot de IA generó imágenes sexualizadas y las publicó en X, lo que provocó una reacción negativa por parte de reguladores y defensores de la seguridad infantil.

En el Reino Unido, el regulador de comunicaciones Ofcom ya está investigando formalmente si X violó la Ley de Seguridad en Línea del país en relación con los resultados de Grok.

Las autoridades de Francia e India también han expresado su preocupación, acusando al chatbot de crear ilegalmente imágenes sexualizadas de individuos sin su consentimiento.

X, que es una filial de la empresa de inteligencia artificial xAI de Musk, ha declarado anteriormente que elimina contenido ilegal, incluido material de abuso sexual infantil, suspende cuentas infractoras y coopera con las fuerzas del orden cuando es necesario.

Tensiones con Washington

La investigación de Grok llega poco después de que la UE impusiera una multa separada de 120 millones de euros (142 millones de dólares) a X bajo la DSA.

En ese caso anterior, los reguladores de la UE concluyeron que el sistema de marcas de verificación azul de pago de X engañó a los usuarios, que la plataforma no proporcionó acceso adecuado a los datos a los investigadores y que no estableció adecuadamente un repositorio de transparencia publicitaria.

Esa multa recibió duras críticas por parte de la administración Trump, que ha presentado la regulación digital de la UE como un ataque a la libertad de expresión y a las empresas tecnológicas estadounidenses.

Antes de la sanción de diciembre, el vicepresidente estadounidense JD Vance escribió en X que "la UE debería apoyar la libertad de expresión, no atacar a las empresas estadounidenses por basura."

Sin embargo, los funcionarios europeos han rechazado sistemáticamente esas afirmaciones, argumentando que la DSA está diseñada para proteger los derechos y la seguridad de los usuarios en lugar de restringir la expresión legal.