A UE abre investigação sobre o X de Musk devido à IA do Grok e possíveis violações de segurança infantil

A União Europeia abriu uma investigação formal sobre a plataforma de mídia social X de Elon Musk, devido a preocupações de que seu chatbot de inteligência artificial Grok possa ter gerado imagens deepfake que "podem equivaler a material de abuso sexual infantil."

A Comissão Europeia afirmou que a investigação avaliará se X cumpriu suas obrigações sob a Lei de Serviços Digitais (DSA ) do bloco de identificar, avaliar e mitigar adequadamente os riscos associados à implantação do Grok nos 27 Estados-membros da UE.

A investigação aumenta a vigilância sobre as práticas de moderação de conteúdo da X e pode inflamar ainda mais as tensões entre Bruxelas e Washington.

Foco na avaliação de riscos e mitigação

Segundo a Comissão, a investigação examinará se X abordou adequadamente os riscos sistêmicos ligados à implementação do Grok, especialmente o risco de gerar deepfakes sexuais não consensuais envolvendo mulheres e crianças.

O caso está sujeito à DSA, o abrangente regulamento de conteúdo online da UE que impõe exigências rigorosas às grandes plataformas para prevenir a disseminação de material ilegal e prejudicial.

"Deepfakes sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação", disse a comissária de tecnologia da UE, Henna Virkkunen.

A Comissão afirmou que a investigação não envolverá medidas provisórias neste momento.

Sob a Lei de Serviços Digitais, que entrou em vigor em 2023, a UE tem o poder de impor multas de até 6% do faturamento anual mundial de uma empresa por falhas em combater conteúdos ilegais, mitigar riscos sistêmicos ou cumprir os requisitos de transparência.

Crescente reação internacional contra Grok

A investigação da UE segue a crescente condenação global a Grok nas últimas semanas.

Usuários em vários países relataram que o chatbot de IA gerou imagens sexualizadas e as postou no X, provocando reações negativas de reguladores e defensores da segurança infantil.

No Reino Unido, o regulador de comunicações Ofcom já está formalmente investigando se X violou a Lei de Segurança Online do país em relação aos resultados do Grok.

Autoridades na França e na Índia também levantaram preocupações, acusando o chatbot de criar ilegalmente imagens sexualizadas de indivíduos sem seu consentimento.

A X, que é uma subsidiária da empresa de IA xAI de Musk, já afirmou anteriormente que remove conteúdo ilegal, incluindo material de abuso sexual infantil, suspende contas infratoras e coopera com as autoridades quando necessário.

Tensões com Washington pairam

A investigação Grok ocorre logo após a UE impor uma multa separada de €120 milhões (142 milhões de dólares) sobre X sob a DSA.

Naquele caso anterior, os reguladores da UE concluíram que o sistema pago de marca azul da X enganou os usuários, que a plataforma não forneceu acesso adequado aos dados aos pesquisadores e que não estabeleceu adequadamente um repositório de transparência publicitária.

Essa multa recebeu duras críticas do governo Trump, que enquadrou a regulamentação digital da UE como um ataque à liberdade de expressão e às empresas de tecnologia americanas.

Antes da penalidade de dezembro, o vice-presidente dos EUA, JD Vance, escreveu no X que "a UE deveria apoiar a liberdade de expressão, não atacar empresas americanas por causa de lixo."

Autoridades europeias, no entanto, têm rejeitado consistentemente essas alegações, argumentando que a DSA foi projetada para proteger os direitos e a segurança dos usuários, e não para restringir a expressão legal.