AI, deepfakes og YouTube-influentere omformer det indiske valglandskab

Stigningen i AI-genereret indhold har bragt en ny dimension til det igangværende gigantiske valg i Indien.

Med over 800 millioner internetbrugere udnytter politiske partier kunstig intelligens til at forbinde med vælgere på hidtil usete måder.

Fra AI-skabte avatarer, der leverer personlige beskeder til AI-drevne chatbots, der efterligner politiske lederes stemmer, er målet klart: at påvirke vælgernes adfærd i massiv skala.

Da jeg for nylig kørte gennem de travle gader i New Delhi, kunne jeg ikke undgå at bemærke de digitale reklametavler, der viser uhyggeligt naturtro AI-genererede videoer af politikere.

Teknologien omformer valglandskabet

En populær indisk YouTuber, som ikke ønskede at blive navngivet, bemærker,

Integrationen af kunstig intelligens i politiske kampagner ændrer, hvordan partier kommunikerer med vælgere, hvilket gør deres opsøgende kontakt mere direkte og tilsyneladende personlig.

Sociale medier og kommunikationsplatforme er klar til at blive de primære kanaler for vildledende generativt AI-baseret indhold, uanset deres intentioner. I betragtning af de lave adgangsbarrierer og den høje afhængighed af disse platforme, er det uundgåeligt, at de vil blive udnyttet til formidling af vildledende information.

I miljøer, hvor let adgang og udbredt brug er fremherskende, er udbredelsen af AI-genereret misinformation næsten sikker.

Denne tendens understreger det presserende behov for robuste foranstaltninger til at beskytte integriteten af Indiens parlamentsvalg mod truslerne fra dybe forfalskninger og desinformation.

Men desinformation og dens virkninger er allerede tydelige

På trods af den innovative anvendelse af kunstig intelligens er desinformation fortsat en betydelig udfordring.

Den indiske valgkommission har advaret mod at bruge kunstig intelligens til at sprede falsk information, men lovgivningsmæssige foranstaltninger er begrænsede.

Deepfake-videoer med Bollywood-stjernerne Ranveer Singh og Aamir Khan, der kritiserer regeringen, gik viralt, før de blev afkræftet.

En anden video afbildede fejlagtigt Congress Party-lederen Rahul Gandhi, der trak sig tilbage, ved at bruge sin AI-klonede stemme.

YouTuberen tilføjer,

Den hastighed, hvormed AI-genereret indhold kan sprede falsk information, er alarmerende. Det er et kraftfuldt værktøj, der, hvis det misbruges, kan påvirke offentlighedens opfattelse og tillid markant.

Religion i spil

Copy link to section

I begyndelsen af marts blev et realistisk AI-genereret billede af den indiske premierminister Narendra Modi, stylet som Bhishma Pitamah fra det gamle hinduistiske epos Mahabharata, promoveret som en politisk reklame på Instagram.

Billedet, der viser Modi med langt bølget gråt hår, et solformet mærke på panden og iført kropsrustninger, skildrede ham som en reinkarnation af Bhishma, den øverstkommanderende, der kæmpede mod udenlandske trusler.

Oprettet af den højreorienterede side Hokage Modi Sama og først offentliggjort i 2023, blev dette billede forstærket som en politisk annonce i to dage i marts og opnåede mere end 35.000 visninger.

Det fælles tema på tværs af alle billeder delt af Hokage Modi Sama var valoriseringen af Modi som en hinduistisk leder. Populære AI-billeder boostet gennem sponsorerede indlæg fremhævede Modi som en reinkarnation af Bhishma, en Guds søn i jakkesæt, og kongen af hinduistiske Rashtra, der omfavner hinduistisk arv og høster millioner af likes og visninger.

Hindu Rashtra er en omstridt ideologi, der går ind for et hinduistisk-majoritært styre i Indien, der afviger fra dets sekulære grundprincipper.

Personlige AI-kampagner

I valgkredse med cirka to millioner vælgere hver bliver personlige AI-kampagner mere almindelige.

AI-avatarer, der henvender sig til vælgere ved navn, og AI-chatbots, der kalder vælgere i politiske lederes stemmer, er strategier, der bruges til at skabe en direkte og personlig forbindelse med vælgerne.

Disse metoder har til formål at øge vælgerengagementet og påvirke stemmeadfærden.

Indien, med verdens største antal YouTube- og Instagram-brugere, oplever, at politiske partier i stigende grad mobiliserer indflydelsesrige på sociale medier for at få vælgerne til at påvirke. Det regerende Bharatiya Janata-parti (BJP) har været særligt proaktivt.

I marts tildelte premierministeren 24 fremtrædende indflydelsesrige sociale medier ved National Creators Award-ceremonien, der promoverede regeringens fortælling.

Rollen som YouTube influencers

En politisk kommentator bemærkede: “Brugen af indflydelsesrige sociale medier i politiske kampagner udvisker grænserne mellem ægte politisk diskurs og salgsfremmende indhold. Det rejser spørgsmål om ægtheden af de budskaber, der bliver leveret til offentligheden.”

Statlige enheder i BJP har arrangeret influencer-møder for at formidle regeringens resultater. Fremtrædende politikere og ministre har deltaget i interviews med influencers og har yderligere integreret disse personligheder i deres kampagnestrategier.

Indvirkningen af AI på vælgeradfærd

Det kritiske spørgsmål forbliver: Kan AI og deepfake-indhold ændre vælgernes adfærd væsentligt?

Prateek Waghre, administrerende direktør for Internet Freedom Foundation, påpeger, at i den indiske kontekst er politiske partier allerede stærkt afhængige af fortællinger og vildledende budskaber.

Den yderligere virkning af syntetisk indhold er stadig usikker. Imidlertid er potentialet for AI til at påvirke unge vælgere bemærkelsesværdigt. AI-genereret indhold, såsom videoer af premierminister Modi, der synger populære tamilske sange, har hjulpet med at udvide hans rækkevidde og fremstille ham som en mere tilgængelig leder.

Fremtiden for AI ved valg

Efterhånden som AI-teknologien fortsætter med at udvikle sig, vil dens rolle i valg sandsynligvis vokse. Overkommeligheden og tilgængeligheden af AI-værktøjer betyder, at politiske kampagner kan producere personligt og overbevisende indhold i stor skala. De etiske implikationer og potentialet for misbrug udgør imidlertid betydelige udfordringer.

Brugen af kunstig intelligens, deepfakes og influencers på sociale medier i det indiske valg repræsenterer et markant skift i politisk kampagne.

Selvom disse værktøjer tilbyder innovative måder at engagere vælgerne på, rejser de også bekymringer om desinformation og etisk praksis.

Narendra Modi sagde i en chat med Microsofts medstifter Bill Gates i marts:

I et demokratisk og stort land som Indien, hvis nogen bruger deepfake, for eksempel bruger de min stemme over en grim video, så vil folk først tro, at det vil føre til en naturbrand. Derfor er det vigtigt, at deepfake og AI-genererede omtalekilder til at starte med i begyndelsen. Vi bliver nødt til seriøst at tænke på nogle Dos and Donts.

Når Indien navigerer i dette digitale valglandskab, vil balancen mellem innovation og integritet være afgørende for at sikre en retfærdig og demokratisk proces.

Dataene tyder på, at AI’s indflydelse på vælgeradfærd vokser, men dets fulde potentiale og implikationer er endnu ikke fuldt ud forstået.