IA, deepfakes e influenciadores do YouTube remodelam o cenário eleitoral indiano

A ascensão do conteúdo gerado por IA trouxe uma nova dimensão às gigantescas eleições em curso na Índia.

Com mais de 800 milhões de utilizadores da Internet, os partidos políticos estão a aproveitar a inteligência artificial para se conectarem com os eleitores de formas sem precedentes.

Desde avatares criados por IA que transmitem mensagens personalizadas até chatbots alimentados por IA que imitam as vozes dos líderes políticos, o objetivo é claro: influenciar o comportamento dos eleitores em grande escala.

Dirigindo pelas ruas movimentadas de Nova Delhi recentemente, não pude deixar de notar os outdoors digitais exibindo vídeos de políticos gerados por IA assustadoramente realistas.

A tecnologia está remodelando o cenário eleitoral

Um popular YouTuber indiano, que não quis ser identificado, observa,

As redes sociais e as plataformas de comunicação estão preparadas para se tornarem os principais canais para conteúdos geradores enganosos baseados em IA, independentemente das suas intenções. Dadas as baixas barreiras à entrada e a elevada dependência destas plataformas, é inevitável que sejam exploradas para a divulgação de informações enganosas.

Em ambientes onde prevalecem a facilidade de acesso e a utilização generalizada, a propagação de desinformação gerada pela IA é quase certa.

Esta tendência sublinha a necessidade premente de medidas robustas para salvaguardar a integridade das eleições gerais da Índia contra as ameaças representadas pelos deepfakes e pela desinformação.

Mas a desinformação e os seus impactos já são aparentes

Apesar das utilizações inovadoras da IA, a desinformação continua a ser um desafio significativo.

A Comissão Eleitoral Indiana alertou contra o uso de IA para espalhar informações falsas, mas as medidas regulatórias são limitadas.

Vídeos deepfake com as estrelas de Bollywood Ranveer Singh e Aamir Khan criticando o governo se tornaram virais antes de serem desmascarados.

Outro vídeo retratava falsamente o líder do Partido do Congresso, Rahul Gandhi, renunciando, usando sua voz clonada por IA.

O YouTuber acrescenta,

Campanhas de IA personalizadas

Em círculos eleitorais com aproximadamente dois milhões de eleitores cada, as campanhas personalizadas de IA estão a tornar-se mais comuns.

Os avatares de IA que se dirigem aos eleitores pelo nome e os chatbots de IA que chamam os constituintes nas vozes dos líderes políticos são estratégias utilizadas para criar uma ligação direta e personalizada com os eleitores.

Estes métodos visam aumentar o envolvimento dos eleitores e influenciar o comportamento eleitoral.

A Índia, com o maior número mundial de utilizadores do YouTube e do Instagram, vê os partidos políticos mobilizarem cada vez mais os influenciadores das redes sociais para influenciar os eleitores. O Partido Bharatiya Janata (BJP), no poder, tem sido particularmente pró-activo.

Em Março, o Primeiro-Ministro premiou 24 influenciadores proeminentes das redes sociais na cerimónia do Prémio Nacional dos Criadores, promovendo a narrativa do governo.

O papel dos influenciadores do YouTube

Um comentador político observou: “A utilização de influenciadores das redes sociais em campanhas políticas confunde os limites entre o discurso político genuíno e o conteúdo promocional. Levanta questões sobre a autenticidade das mensagens transmitidas ao público”.

Unidades estaduais do BJP têm organizado reuniões de influenciadores para divulgar as conquistas do governo. Políticos e ministros proeminentes participaram em entrevistas com influenciadores, integrando ainda mais estas personalidades nas suas estratégias de campanha.

O impacto da IA no comportamento do eleitor

A questão crítica permanece: a IA e o conteúdo deepfake podem mudar significativamente o comportamento dos eleitores?

Prateek Waghre, Diretor Executivo da Internet Freedom Foundation, salienta que, no contexto indiano, os partidos políticos já dependem fortemente de narrativas e mensagens enganosas.

O impacto adicional do conteúdo sintético ainda é incerto. No entanto, o potencial da IA para influenciar os eleitores jovens é notável. O conteúdo gerado pela IA, como vídeos do primeiro-ministro Modi cantando canções populares do Tamil, ajudou a expandir seu alcance e a retratá-lo como um líder mais acessível.

O futuro da IA nas eleições

À medida que a tecnologia da IA continua a evoluir, é provável que o seu papel nas eleições cresça. A acessibilidade das ferramentas de IA significa que as campanhas políticas podem produzir conteúdo personalizado e persuasivo em grande escala. No entanto, as implicações éticas e o potencial de utilização indevida colocam desafios significativos.

O uso de IA, deepfakes e influenciadores das redes sociais nas eleições indianas representa uma mudança significativa nas campanhas políticas.

Embora estas ferramentas ofereçam formas inovadoras de envolver os eleitores, também levantam preocupações sobre a desinformação e as práticas éticas.

Narendra Modi, em conversa com o cofundador da Microsoft, Bill Gates, em março, disse:

À medida que a Índia navega neste cenário eleitoral digital, o equilíbrio entre inovação e integridade será crucial para garantir um processo justo e democrático.

Os dados sugerem que o impacto da IA no comportamento dos eleitores está a aumentar, mas todo o seu potencial e implicações ainda não foram totalmente compreendidos.