X enfrenta nova análise do Japão à medida que preocupações com deepfake do Grok se espalham pelo mundo todo

O Japão se juntou a uma lista crescente de países que analisam X em vez do serviço de inteligência artificial Grok de Elon Musk e preocupações de que o chatbot possa ser usado para criar e espalhar imagens sexualizadas de pessoas sem seu consentimento.

O desenvolvimento aumenta a pressão sobre a plataforma de mídia social, à medida que reguladores do mundo todo intensificam as verificações sobre ferramentas de IA que podem violar privacidade e direitos de imagem.

A decisão do Japão ocorre após Grok gerar reações negativas este mês por como isso poderia ser usado para manipular fotos para sexualizar ou menosprezar indivíduos. Embora restrições tenham sido introduzidas, autoridades afirmam que o risco ainda não foi totalmente contido.

Segundo a Bloomberg, o Gabinete pediu a X que melhorasse as salvaguardas e reduzisse a produção de imagens sexualmente alteradas criadas por Grok, disse o ministro da Segurança Econômica, Kimi Onoda.

Autoridades também enviaram perguntas por escrito sobre quais medidas X tem para prevenir deepfakes e outras imagens que violem a privacidade, propriedade intelectual e o direito de controlar o uso de suas imagens, acrescentou.

Gabinete pressiona X para fortalecer as salvaguardas do Grok

Onoda disse que o governo busca respostas mais claras sobre como X planeja impedir a criação de imagens manipuladas prejudiciais, incluindo deepfakes sexualizados não consensuais.

O Gabinete do Japão também está analisando se as medidas atuais da plataforma são eficazes o suficiente para evitar o uso indevido, especialmente à medida que as ferramentas se tornam mais acessíveis e difíceis de detectar.

Grok recebeu duras críticas este mês de usuários e governos, da Malásia à Itália, pela facilidade com que poderia ser usado para manipular imagens.

Desde então, o Grok aplicou algumas restrições às suas capacidades de geração de imagens e as colocou atrás de um paywall.

Japão alerta que medidas legais ainda são possíveis

A intervenção do Japão veio acompanhada de um alerta de que uma ação mais forte é possível se o problema continuar. Falando em uma coletiva de imprensa na sexta-feira, Onoda disse que todas as opções continuam disponíveis caso X não melhore as salvaguardas.

Ela disse que o governo está disposto a considerar medidas legais caso não haja melhora.

Onoda também sinalizou que o Japão pode tomar medidas semelhantes contra outras plataformas caso o mesmo tipo de problema surja em outros lugares, indicando que os reguladores estão observando o mercado de IA em geral, não apenas a Grok.

No início desta semana, a xAI, empresa por trás do Grok, disse que está desativando a capacidade dos usuários de gerar imagens sexualizadas de pessoas reais usando o chatbot.

Ainda assim, Onoda afirmou que a capacidade contínua de criar esse tipo de conteúdo continua sendo uma preocupação e pode exigir medidas adicionais.

As investigações globais se ampliam à medida que países apertam o acesso

A decisão do Japão ocorre enquanto as investigações se expandem em várias jurisdições.

Canadá, Califórnia, União Europeia e estados membros individuais da UE como a França estão investigando se as imagens geradas por Grok violam os direitos das pessoas.

Em partes do Sudeste Asiático, as autoridades adotaram um caminho mais direto ao restringir o acesso.

Malásia, Indonésia e Filipinas restringiram o acesso doméstico ao Grok, refletindo a crescente preocupação sobre a rapidez com que o conteúdo gerado por IA pode se espalhar e a dificuldade que pode ser contê-lo uma vez criado.

A questão colocou X e xAI sob uma atenção renovada em um momento em que os governos estão cada vez mais focados em regular ferramentas de IA que podem borrar a linha entre mídias reais e sintéticas.

A lei de IA do Japão limita o poder de aplicação

O Japão está tentando equilibrar controles mais rígidos com sua ambição de alcançar EUA e China em IA, uma área que considera importante para a estratégia nacional.

No entanto, sua estrutura atual pode limitar o quão agressivamente pode responder.

A lei de IA do Japão, que entrou em vigor em setembro, não tem penalidades.

Isso restringe a interferência do governo principalmente a investigações e à emissão de orientações formais quando ocorrem violações, em vez de impor sanções diretas.

As discussões entre os formuladores de políticas japonesas se concentraram em medidas como educar os usuários e exigir que serviços de IA mostrem quando imagens foram manipuladas.

Segundo a Bloomberg, o Gabinete também busca coordenar possíveis medidas com o Ministério da Justiça, a Agência Nacional de Polícia e o Ministério das Comunicações.