L'IA, les deepfakes et les influenceurs YouTube remodèlent le paysage électoral indien

L’essor du contenu généré par l’IA a apporté une nouvelle dimension aux gigantesques élections en cours en Inde.

Avec plus de 800 millions d’internautes, les partis politiques exploitent l’intelligence artificielle pour communiquer avec les électeurs de manière sans précédent.

Des avatars créés par l’IA délivrant des messages personnalisés aux chatbots alimentés par l’IA imitant les voix des dirigeants politiques, l’objectif est clair : influencer le comportement des électeurs à grande échelle.

En conduisant récemment dans les rues animées de New Delhi, je n'ai pas pu m'empêcher de remarquer les panneaux d'affichage numériques affichant des vidéos étrangement réalistes de politiciens générées par l'IA.

La technologie remodèle le paysage électoral

Un YouTuber indien populaire, qui ne souhaite pas être nommé, note :

Les médias sociaux et les plateformes de communication sont sur le point de devenir les principaux canaux de diffusion de contenus génératifs trompeurs basés sur l’IA, quelles que soient leurs intentions. Compte tenu des faibles barrières à l’entrée et de la forte dépendance à l’égard de ces plateformes, il est inévitable qu’elles soient exploitées pour diffuser des informations trompeuses.

Dans les environnements où prédominent la facilité d’accès et l’utilisation généralisée, la propagation de la désinformation générée par l’IA est presque certaine.

Cette tendance souligne la nécessité urgente de mesures robustes pour protéger l'intégrité des élections générales indiennes contre les menaces posées par les deepfakes et la désinformation.

Mais la désinformation et ses impacts sont déjà visibles

Malgré les utilisations innovantes de l’IA, la désinformation reste un défi important.

La Commission électorale indienne a mis en garde contre l’utilisation de l’IA pour diffuser de fausses informations, mais les mesures réglementaires sont limitées.

Des vidéos Deepfake mettant en vedette les stars de Bollywood Ranveer Singh et Aamir Khan critiquant le gouvernement sont devenues virales avant d'être démystifiées.

Une autre vidéo montre faussement la démission du chef du Parti du Congrès, Rahul Gandhi, en utilisant sa voix clonée par l'IA.

Le YouTuber ajoute :

Campagnes d'IA personnalisées

Dans les circonscriptions comptant chacune environ deux millions d’électeurs, les campagnes personnalisées d’IA sont de plus en plus courantes.

Les avatars d’IA s’adressant aux électeurs par leur nom et les chatbots d’IA appelant les électeurs avec la voix des dirigeants politiques sont des stratégies utilisées pour créer une connexion directe et personnalisée avec les électeurs.

Ces méthodes visent à améliorer l’engagement des électeurs et à influencer le comportement électoral.

L'Inde, qui compte le plus grand nombre d'utilisateurs de YouTube et d'Instagram au monde, voit les partis politiques mobiliser de plus en plus les influenceurs des médias sociaux pour influencer les électeurs. Le parti Bharatiya Janata (BJP) au pouvoir s’est montré particulièrement proactif.

En mars, le Premier ministre a récompensé 24 éminents influenceurs des médias sociaux lors de la cérémonie du National Creators Award, promouvant ainsi le discours du gouvernement.

Le rôle des influenceurs YouTube

Un commentateur politique a observé : « Le recours aux influenceurs des médias sociaux dans les campagnes politiques brouille les frontières entre le véritable discours politique et le contenu promotionnel. Cela soulève des questions sur l'authenticité des messages délivrés au public. »

Les unités d'État du BJP organisent des réunions d'influence pour diffuser les réalisations du gouvernement. D’éminents hommes politiques et ministres ont participé à des entretiens avec des influenceurs, intégrant davantage ces personnalités dans leurs stratégies de campagne.

L’impact de l’IA sur le comportement des électeurs

La question cruciale demeure : l’IA et les contenus deepfakes peuvent-ils modifier de manière significative le comportement des électeurs ?

Prateek Waghre, directeur exécutif de l'Internet Freedom Foundation, souligne que dans le contexte indien, les partis politiques s'appuient déjà largement sur des récits et des messages trompeurs.

L’impact supplémentaire du contenu synthétique est encore incertain. Cependant, le potentiel de l’IA pour influencer les jeunes électeurs est remarquable. Le contenu généré par l’IA, comme les vidéos du Premier ministre Modi chantant des chansons populaires tamoules, a contribué à étendre sa portée et à le présenter comme un leader plus accessible.

L’avenir de l’IA dans les élections

À mesure que la technologie de l’IA continue d’évoluer, son rôle dans les élections est susceptible de croître. Le prix abordable et l’accessibilité des outils d’IA signifient que les campagnes politiques peuvent produire un contenu personnalisé et convaincant à grande échelle. Cependant, les implications éthiques et les risques d’abus posent des défis importants.

Le recours à l’IA, aux deepfakes et aux influenceurs des médias sociaux lors des élections indiennes représente un changement important dans la campagne politique.

Si ces outils offrent des moyens innovants de mobiliser les électeurs, ils soulèvent également des inquiétudes quant à la désinformation et aux pratiques éthiques.

Narendra Modi, lors d'une conversation avec le co-fondateur de Microsoft, Bill Gates, en mars, a déclaré :

Alors que l’Inde évolue dans ce paysage électoral numérique, l’équilibre entre innovation et intégrité sera crucial pour garantir un processus juste et démocratique.

Les données suggèrent que l’impact de l’IA sur le comportement des électeurs est croissant, mais son potentiel et ses implications restent encore à comprendre.