AI, deepfakes en YouTube-beïnvloeders hervormen het Indiase verkiezingslandschap

De opkomst van door AI gegenereerde inhoud heeft een nieuwe dimensie gegeven aan de aanhoudende gigantische verkiezingen in India.

Met ruim 800 miljoen internetgebruikers maken politieke partijen gebruik van kunstmatige intelligentie om op ongekende manieren in contact te komen met kiezers.

Van door AI gemaakte avatars die gepersonaliseerde berichten leveren tot door AI aangedreven chatbots die de stemmen van politieke leiders nabootsen, het doel is duidelijk: het gedrag van kiezers op grote schaal beïnvloeden.

Toen ik onlangs door de drukke straten van New Delhi reed, kon ik het niet helpen dat ik de digitale reclameborden zag met griezelig levensechte, door AI gegenereerde video's van politici.

Technologie verandert het electorale landschap

Een populaire Indiase YouTuber, die niet bij naam genoemd wil worden, merkt op:

Sociale media en communicatieplatforms staan klaar om de belangrijkste kanalen te worden voor misleidende, generatieve, op AI gebaseerde inhoud, ongeacht hun bedoelingen. Gezien de lage toetredingsdrempels en de grote afhankelijkheid van deze platforms is het onvermijdelijk dat ze zullen worden uitgebuit voor de verspreiding van misleidende informatie.

In omgevingen waar gemakkelijke toegang en wijdverbreid gebruik de boventoon voeren, is de verspreiding van door AI gegenereerde verkeerde informatie vrijwel zeker.

Deze trend onderstreept de dringende behoefte aan robuuste maatregelen om de integriteit van de Indiase algemene verkiezingen te beschermen tegen de dreigingen die uitgaan van deepfakes en desinformatie.

Maar desinformatie en de gevolgen ervan zijn nu al duidelijk

Ondanks het innovatieve gebruik van AI blijft desinformatie een grote uitdaging.

De Indiase verkiezingscommissie heeft gewaarschuwd voor het gebruik van AI om valse informatie te verspreiden, maar de regelgevende maatregelen zijn beperkt.

Deepfake-video’s waarin Bollywoodsterren Ranveer Singh en Aamir Khan kritiek uiten op de regering, gingen viraal voordat ze werden ontkracht.

In een andere video werd ten onrechte afgebeeld dat leider van de Congrespartij, Rahul Gandhi, aftrad, met behulp van zijn AI-gekloonde stem.

De YouTuber voegt eraan toe:

Gepersonaliseerde AI-campagnes

In kiesdistricten met elk ongeveer twee miljoen kiezers worden gepersonaliseerde AI-campagnes steeds gebruikelijker.

AI-avatars die kiezers bij naam aanspreken en AI-chatbots die kiezers in de stem van politieke leiders aanspreken, zijn strategieën die worden gebruikt om een directe en persoonlijke verbinding met kiezers te creëren.

Deze methoden zijn bedoeld om de betrokkenheid van kiezers te vergroten en het stemgedrag te beïnvloeden.

India, met het grootste aantal YouTube- en Instagram-gebruikers ter wereld, ziet dat politieke partijen steeds meer beïnvloeders van sociale media mobiliseren om kiezers te beïnvloeden. De regerende Bharatiya Janata Partij (BJP) is bijzonder proactief geweest.

In maart heeft de premier tijdens de uitreiking van de National Creators Award een onderscheiding gegeven aan 24 prominente social media-beïnvloeders, waarmee het verhaal van de regering werd gepromoot.

De rol van YouTube-influencers

Een politiek commentator merkte op: "Het gebruik van beïnvloeders van sociale media in politieke campagnes vervaagt de grenzen tussen echt politiek discours en promotionele inhoud. Het roept vragen op over de authenticiteit van de boodschappen die aan het publiek worden overgebracht."

Staatseenheden van de BJP organiseren bijeenkomsten van beïnvloeders om de prestaties van de regering te verspreiden. Prominente politici en ministers hebben deelgenomen aan interviews met influencers, waardoor deze persoonlijkheden verder zijn geïntegreerd in hun campagnestrategieën.

De impact van AI op kiezersgedrag

De cruciale vraag blijft: kunnen AI en deepfake-inhoud het kiezersgedrag aanzienlijk veranderen?

Prateek Waghre, uitvoerend directeur van de Internet Freedom Foundation, wijst erop dat politieke partijen in de Indiase context al sterk afhankelijk zijn van verhalen en misleidende berichten.

De aanvullende impact van synthetische inhoud is nog onzeker. Het potentieel van AI om jonge kiezers te beïnvloeden is echter opmerkelijk. Door AI gegenereerde inhoud, zoals video's waarin premier Modi populaire Tamil-liedjes zingt, heeft ertoe bijgedragen dat zijn bereik is vergroot en hem als een beter benaderbare leider is neergezet.

De toekomst van AI bij verkiezingen

Naarmate AI-technologie zich blijft ontwikkelen, zal de rol ervan bij verkiezingen waarschijnlijk toenemen. De betaalbaarheid en toegankelijkheid van AI-instrumenten zorgen ervoor dat politieke campagnes op grote schaal gepersonaliseerde en overtuigende inhoud kunnen produceren. De ethische implicaties en het potentieel voor misbruik vormen echter aanzienlijke uitdagingen.

Het gebruik van AI, deepfakes en beïnvloeders van sociale media bij de Indiase verkiezingen vertegenwoordigt een aanzienlijke verschuiving in de politieke campagnes.

Hoewel deze instrumenten innovatieve manieren bieden om kiezers te betrekken, roepen ze ook zorgen op over desinformatie en ethische praktijken.

Narendra Modi zei in maart in een gesprek met Microsoft-medeoprichter Bill Gates:

Terwijl India door dit digitale verkiezingslandschap navigeert, zal het evenwicht tussen innovatie en integriteit van cruciaal belang zijn om een eerlijk en democratisch proces te garanderen.

De gegevens suggereren dat de impact van AI op het gedrag van kiezers groeit, maar het volledige potentieel en de implicaties ervan moeten nog volledig worden begrepen.