AI, deepfakes og YouTube-influentere omformer det indiske valglandskab

Stigningen i AI-genereret indhold har bragt en ny dimension til det igangværende gigantiske valg i Indien.

Med over 800 millioner internetbrugere udnytter politiske partier kunstig intelligens til at forbinde med vælgere på hidtil usete måder.

Fra AI-skabte avatarer, der leverer personlige beskeder til AI-drevne chatbots, der efterligner politiske lederes stemmer, er målet klart: at påvirke vælgernes adfærd i massiv skala.

Da jeg for nylig kørte gennem de travle gader i New Delhi, kunne jeg ikke undgå at bemærke de digitale reklametavler, der viser uhyggeligt naturtro AI-genererede videoer af politikere.

Teknologien omformer valglandskabet

En populær indisk YouTuber, som ikke ønskede at blive navngivet, bemærker,

Sociale medier og kommunikationsplatforme er klar til at blive de primære kanaler for vildledende generativt AI-baseret indhold, uanset deres intentioner. I betragtning af de lave adgangsbarrierer og den høje afhængighed af disse platforme, er det uundgåeligt, at de vil blive udnyttet til formidling af vildledende information.

I miljøer, hvor let adgang og udbredt brug er fremherskende, er udbredelsen af AI-genereret misinformation næsten sikker.

Denne tendens understreger det presserende behov for robuste foranstaltninger til at beskytte integriteten af Indiens parlamentsvalg mod truslerne fra dybe forfalskninger og desinformation.

Men desinformation og dens virkninger er allerede tydelige

På trods af den innovative anvendelse af kunstig intelligens er desinformation fortsat en betydelig udfordring.

Den indiske valgkommission har advaret mod at bruge kunstig intelligens til at sprede falsk information, men lovgivningsmæssige foranstaltninger er begrænsede.

Deepfake-videoer med Bollywood-stjernerne Ranveer Singh og Aamir Khan, der kritiserer regeringen, gik viralt, før de blev afkræftet.

En anden video afbildede fejlagtigt Congress Party-lederen Rahul Gandhi, der trak sig tilbage, ved at bruge sin AI-klonede stemme.

YouTuberen tilføjer,

Personlige AI-kampagner

I valgkredse med cirka to millioner vælgere hver bliver personlige AI-kampagner mere almindelige.

AI-avatarer, der henvender sig til vælgere ved navn, og AI-chatbots, der kalder vælgere i politiske lederes stemmer, er strategier, der bruges til at skabe en direkte og personlig forbindelse med vælgerne.

Disse metoder har til formål at øge vælgerengagementet og påvirke stemmeadfærden.

Indien, med verdens største antal YouTube- og Instagram-brugere, oplever, at politiske partier i stigende grad mobiliserer indflydelsesrige på sociale medier for at få vælgerne til at påvirke. Det regerende Bharatiya Janata-parti (BJP) har været særligt proaktivt.

I marts tildelte premierministeren 24 fremtrædende indflydelsesrige sociale medier ved National Creators Award-ceremonien, der promoverede regeringens fortælling.

Rollen som YouTube influencers

En politisk kommentator bemærkede: "Brugen af indflydelsesrige sociale medier i politiske kampagner udvisker grænserne mellem ægte politisk diskurs og salgsfremmende indhold. Det rejser spørgsmål om ægtheden af de budskaber, der bliver leveret til offentligheden."

Statlige enheder i BJP har arrangeret influencer-møder for at formidle regeringens resultater. Fremtrædende politikere og ministre har deltaget i interviews med influencers og har yderligere integreret disse personligheder i deres kampagnestrategier.

Indvirkningen af AI på vælgeradfærd

Det kritiske spørgsmål forbliver: Kan AI og deepfake-indhold ændre vælgernes adfærd væsentligt?

Prateek Waghre, administrerende direktør for Internet Freedom Foundation, påpeger, at i den indiske kontekst er politiske partier allerede stærkt afhængige af fortællinger og vildledende budskaber.

Den yderligere virkning af syntetisk indhold er stadig usikker. Imidlertid er potentialet for AI til at påvirke unge vælgere bemærkelsesværdigt. AI-genereret indhold, såsom videoer af premierminister Modi, der synger populære tamilske sange, har hjulpet med at udvide hans rækkevidde og fremstille ham som en mere tilgængelig leder.

Fremtiden for AI ved valg

Efterhånden som AI-teknologien fortsætter med at udvikle sig, vil dens rolle i valg sandsynligvis vokse. Overkommeligheden og tilgængeligheden af AI-værktøjer betyder, at politiske kampagner kan producere personligt og overbevisende indhold i stor skala. De etiske implikationer og potentialet for misbrug udgør imidlertid betydelige udfordringer.

Brugen af kunstig intelligens, deepfakes og influencers på sociale medier i det indiske valg repræsenterer et markant skift i politisk kampagne.

Selvom disse værktøjer tilbyder innovative måder at engagere vælgerne på, rejser de også bekymringer om desinformation og etisk praksis.

Narendra Modi sagde i en chat med Microsofts medstifter Bill Gates i marts:

Når Indien navigerer i dette digitale valglandskab, vil balancen mellem innovation og integritet være afgørende for at sikre en retfærdig og demokratisk proces.

Dataene tyder på, at AI's indflydelse på vælgeradfærd vokser, men dets fulde potentiale og implikationer er endnu ikke fuldt ud forstået.