El regulador británico investiga a X sobre las imágenes dañinas de Grok AI bajo la ley de seguridad en línea

El regulador de comunicaciones del Reino Unido, Ofcom, ha iniciado una investigación formal sobre X, intensificando el escrutinio regulatorio de las herramientas de inteligencia artificial integradas en las principales plataformas de redes sociales.

La investigación se centra en si X ha cumplido con sus obligaciones legales bajo la Ley de Seguridad en Línea, tras la preocupación generalizada sobre cómo su chatbot de IA, Grok, ha sido utilizado para generar contenido ilegal y dañino.

Esta medida sitúa al Reino Unido entre una lista creciente de gobiernos que cuestionan si las salvaguardas actuales de la IA son suficientes cuando las herramientas de generación de imágenes y texto se hacen ampliamente accesibles en línea.

Ofcom inicia una investigación formal

Ofcom anunció el lunes que había abierto una investigación sobre X, una filial de xAI, para evaluar posibles incumplimientos con la Ley de Seguridad en Línea.

La legislación exige que las plataformas tomen medidas para proteger a los usuarios de contenido ilegal y reducir los riesgos asociados a las tecnologías emergentes.

Ofcom tiene la autoridad para imponer multas o bloquear servicios si se confirman incumplimientos.

El regulador analizará ahora las pruebas aportadas por la empresa antes de tomar una decisión provisional.

Si Ofcom determina que la ley ha sido incumplida, podría imponer una multa a X de hasta el 10% de sus ingresos globales o 18 millones de libras, la cantidad que sea mayor.

Grok bajo el foco regulatorio

La investigación se centra en Grok, una herramienta de IA con menos salvaguardas que muchos chatbots convencionales.

Los usuarios pueden interactuar directamente con Grok en X etiquetando al chatbot en las publicaciones, pidiéndole que genere texto e imágenes que aparecen públicamente en la plataforma.

Reguladores y legisladores han expresado preocupación después de que los usuarios crearan grandes volúmenes de imágenes no consensuadas e ilegales, incluyendo material que involucra a niños y mujeres.

La ley británica prohíbe la posesión o el intercambio de imágenes sexuales de menores y la distribución de imágenes íntimas sin consentimiento, incluyendo contenido generado mediante herramientas de IA.

Estos estándares legales se aplican independientemente de si las imágenes son sintéticas o digitalmente alteradas.

Respuesta y restricciones de la plataforma

Después de que los usuarios usaran repetidamente mal las capacidades de generación de imágenes de Grok, xAI restringió la función a usuarios de pago en X.

Sin embargo, la misma funcionalidad seguía siendo gratuita en la aplicación independiente de Grok.

Elon Musk advirtió este mes que cualquiera que utilice Grok para crear contenido ilegal enfrentaría las mismas consecuencias que subir material ilegal.

xAI ha declarado que elimina publicaciones que infringen la ley, incluyendo material de abuso sexual infantil, y suspende cuentas que se encuentren en infracción.

El gobierno del Reino Unido ha indicado que estas medidas podrían ser insuficientes. El secretario de Negocios, Peter Kyle, dijo que los ministros considerarían prohibir X si fuera necesario, al tiempo que subrayó que el proceso regulatorio debe seguir su curso.

Creciente presión internacional

Las preocupaciones sobre Grok se han extendido más allá del Reino Unido.

Indonesia y Malasia bloquearon temporalmente la herramienta durante el fin de semana, citando riesgos relacionados con contenido ilegal.

La Internet Watch Foundation, designada por el gobierno británico para ayudar a identificar material de abuso sexual infantil, afirmó haber encontrado imágenes criminales de niños en la dark web que supuestamente fueron generadas por Grok.

A nivel europeo, la Comisión Europea ordenó a X que conservara los documentos internos relacionados con Grok hasta finales de año.

Las autoridades francesas han acusado a la herramienta de generar contenido claramente ilegal sin consentimiento, señalando posibles infracciones de la Ley de Servicios Digitales de la UE.

La regulación exige que las grandes plataformas online mitiguen los riesgos asociados a la difusión de material ilegal, incluido el contenido producido mediante IA.

A medida que los reguladores de múltiples jurisdicciones intensifican su enfoque en los servicios impulsados por IA, se espera que la investigación británica sobre X pruebe cómo se aplican las leyes existentes de seguridad en línea a las tecnologías generativas en rápida evolución.