Regulador do Reino Unido investiga X sobre imagens prejudiciais da Grok AI sob a lei de segurança online

O regulador de comunicações do Reino Unido, Ofcom, iniciou uma investigação formal sobre o X, intensificando o escrutínio regulatório sobre ferramentas de inteligência artificial incorporadas nas principais plataformas de redes sociais.

A investigação foca em saber se X cumpriu suas obrigações legais sob a Lei de Segurança Online, após a ampla preocupação sobre como seu chatbot de IA, Grok, tem sido usado para gerar conteúdo ilegal e prejudicial.

A medida coloca o Reino Unido entre uma lista crescente de governos que questionam se as salvaguardas atuais de IA são suficientes quando ferramentas de geração de imagens e texto são amplamente acessíveis online.

Ofcom inicia investigação formal

A Ofcom informou na segunda-feira que abriu uma investigação sobre a X, uma subsidiária da xAI, para avaliar possíveis falhas em cumprir a Lei de Segurança Online.

A legislação exige que as plataformas tomem medidas para proteger os usuários contra conteúdos ilegais e reduzir riscos associados a tecnologias emergentes.

A Ofcom tem autoridade para aplicar multas ou bloquear serviços caso violações sejam confirmadas.

O regulador agora analisará as evidências apresentadas pela empresa antes de tomar uma decisão provisória.

Se a Ofcom determinar que a lei foi violada, pode impor uma multa a X de até 10% de sua receita global ou £18 milhões, o valor que for maior.

Grok sob foco regulatório

A investigação se concentra no Grok, uma ferramenta de IA com menos salvaguardas do que muitos chatbots tradicionais.

Os usuários podem interagir diretamente com o Grok no X marcando o chatbot nas postagens, pedindo que ele gere texto e imagens que aparecem publicamente na plataforma.

Reguladores e legisladores levantaram preocupações após usuários criarem grandes volumes de imagens não consensuais e ilegais, incluindo material envolvendo crianças e mulheres.

A lei do Reino Unido proíbe a posse ou o compartilhamento de imagens sexuais de crianças e a distribuição de imagens íntimas sem consentimento, incluindo conteúdo gerado por ferramentas de IA.

Esses padrões legais se aplicam independentemente de as imagens serem sintéticas ou digitalmente alteradas.

Resposta e restrições da plataforma

Após usuários usarem repetidamente de forma inadequada as capacidades de geração de imagens do Grok, a xAI restringiu o recurso a usuários pagos no X.

A mesma funcionalidade, no entanto, permaneceu gratuita no aplicativo independente do Grok.

Elon Musk alertou este mês que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentaria as mesmas consequências que enviar material ilegal.

A xAI afirmou que remove postagens que violam a lei, incluindo material de abuso sexual infantil, e suspende contas que estejam em violação.

O governo do Reino Unido indicou que essas medidas podem ser insuficientes. O secretário de Negócios, Peter Kyle, disse que os ministros considerariam proibir o X se necessário, ao mesmo tempo em que enfatizou que o processo regulatório deve seguir seu curso.

Crescente pressão internacional

As preocupações com Grok se estenderam além do Reino Unido.

Indonésia e Malásia bloquearam temporariamente a ferramenta durante o fim de semana, citando riscos ligados a conteúdos ilegais.

A Internet Watch Foundation, designada pelo governo do Reino Unido para ajudar a identificar material de abuso sexual infantil, afirmou ter encontrado imagens criminais de crianças na dark web que supostamente foram geradas por Grok.

No nível europeu, a Comissão Europeia ordenou que X preservasse documentos internos relacionados a Grok até o final do ano.

As autoridades francesas acusaram a ferramenta de gerar conteúdo claramente ilegal sem consentimento, sinalizando possíveis violações da Lei de Serviços Digitais da UE.

A regulamentação exige que grandes plataformas online mitiguem riscos associados à disseminação de material ilegal, incluindo conteúdo produzido usando IA.

À medida que reguladores de várias jurisdições intensificam seu foco em serviços baseados em IA, espera-se que a investigação do Reino Unido sobre X teste como as leis existentes de segurança online se aplicam às tecnologias generativas em rápida evolução.