X enfrenta escrutínio global enquanto chatbot do Grok gera imagens exploratórias

A plataforma de mídia social X de Elon Musk (anteriormente conhecida como Twitter) está enfrentando crescente escrutínio regulatório em várias jurisdições após seu chatbot Grok ter sido usado para criar e compartilhar imagens sexualizadas geradas por IA de crianças e mulheres.

Autoridades da Europa, Índia e Malásia iniciaram investigações, enquanto autoridades do Brasil e do Reino Unido também levantaram preocupações, marcando um dos desafios regulatórios globais mais sérios até agora para as ambições de Musk em IA.

A controvérsia gira em torno do Grok Imagine, um recurso recentemente atualizado que permite aos usuários gerar imagens a partir de prompts baseados em texto diretamente no X.

Nas últimas semanas, a ferramenta teria sido usada para produzir e circular imagens íntimas e não consensuais (NCII), incluindo conteúdo que retratam menores.

Muitas dessas imagens se espalharam amplamente na plataforma, motivando a intervenção de reguladores e defensores da segurança.

Reguladores atuam pela Europa, Ásia e América Latina

Na Europa, a questão tem gerado críticas severas de autoridades.

Em uma coletiva de imprensa na segunda-feira, o porta-voz da Comissão Europeia, Thomas Regnier, disse que a autoridade estava "investigando muito seriamente essa questão", acrescentando que X e Grok estavam oferecendo um "modo picante" que produzia conteúdo sexual explícito, incluindo imagens infantis.

"Isso não é 'apimentado'", disse Regnier. "Isso é ilegal. Isso é chocante. Isso é nojento."

O órgão de vigilância da mídia britânico Ofcom confirmou que solicitou informações a X sobre as questões do Grok.

Na Índia, o Ministério da Eletrônica e Tecnologia da Informação ordenou que X, no final da semana passada, realizasse uma "revisão abrangente em nível técnico, processual e de governança" do Grok, estabelecendo um prazo para conformidade em 5 de janeiro.

A Comissão de Comunicações e Multimídia da Malásia afirmou que está investigando a plataforma e convocará representantes das empresas, pedindo salvaguardas mais rigorosas alinhadas às leis locais.

No Brasil, uma deputada disse que pediu ao promotor federal e à autoridade de proteção de dados do país que suspendessem o uso de Grok até que a investigação fosse concluída.

Musk, xAI e o debate sobre segurança

Enquanto especialistas em segurança e críticos de tecnologia condenaram a proliferação de imagens exploratórias, Musk pareceu zombar da controvérsia compartilhando imagens geradas por Grok no X, incluindo uma que mostrava a si mesmo de biquíni.

Posteriormente, a X emitiu sua primeira resposta pública por meio de sua conta oficial da Safety, afirmando que toma medidas contra conteúdos ilegais, incluindo material de abuso sexual infantil (CSAM), por meio de remoções, suspensões de contas e cooperação com as autoridades.

Musk alertou separadamente que qualquer um que incitasse Grok a criar conteúdo ilegal enfrentaria as mesmas consequências que enviar esse tipo de material.

Um funcionário da xAI disse que o Grok Imagine foi atualizado, mas não especificou se as mudanças abordavam a geração de imagens explícitas prejudiciais.

Nos EUA, o Centro Nacional de Exploração Sexual pediu ao Departamento de Justiça e à Comissão Federal de Comércio que investiguem.

Embora as agências federais tenham se recusado a comentar, o NCOSE afirmou que as leis existentes que proíbem a criação e distribuição de CSAM poderiam se aplicar até mesmo a conteúdo virtualmente criado em certas circunstâncias.

O tráfego aumenta apesar da controvérsia

Apesar da reação negativa, o engajamento dos usuários do X não sofreu.

Dados da Apptopia mostram que os downloads diários do Grok aumentaram 54% desde 2 de janeiro, enquanto os downloads diários do X subiram 25% nos últimos três dias.

Críticos argumentam que o episódio destaca fraquezas na infraestrutura de confiança e segurança do X, especialmente em relação ao conteúdo gerado por IA.