AI, deepfakes og YouTube-påvirkere omformer det indiske valglandskapet

Fremveksten av AI-generert innhold har brakt en ny dimensjon til det pågående gigantiske valget i India.

Med over 800 millioner internettbrukere utnytter politiske partier kunstig intelligens for å få kontakt med velgerne på enestående måter.

Fra AI-skapte avatarer som leverer personlige meldinger til AI-drevne chatbots som etterligner stemmene til politiske ledere, målet er klart: å påvirke velgeradferd i massiv skala.

Da jeg nylig kjørte gjennom de travle gatene i New Delhi, kunne jeg ikke unngå å legge merke til de digitale reklametavlene som viser uhyggelig naturtro AI-genererte videoer av politikere.

Teknologien omformer valglandskapet

En populær indisk YouTuber, som ikke ønsket å bli navngitt, bemerker,

Sosiale medier og kommunikasjonsplattformer er klar til å bli de viktigste kanalene for villedende generativt AI-basert innhold, uavhengig av intensjonene deres. Gitt de lave adgangsbarrierene og den høye avhengigheten av disse plattformene, er det uunngåelig at de vil bli utnyttet for spredning av villedende informasjon.

I miljøer hvor enkel tilgang og utbredt bruk råder, er spredningen av AI-generert feilinformasjon nesten sikker.

Denne trenden understreker det presserende behovet for robuste tiltak for å sikre integriteten til Indias stortingsvalg mot truslene fra dype forfalskninger og desinformasjon.

Men desinformasjon og dens virkninger er allerede tydelige

Til tross for den innovative bruken av AI, er desinformasjon fortsatt en betydelig utfordring.

Den indiske valgkommisjonen har advart mot å bruke kunstig intelligens for å spre falsk informasjon, men reguleringstiltak er begrenset.

Deepfake-videoer med Bollywood-stjernene Ranveer Singh og Aamir Khan som kritiserer regjeringen, gikk viralt før de ble avkreftet.

En annen video viste feilaktig Congress Party-leder Rahul Gandhi som trakk seg ved å bruke sin AI-klonede stemme.

YouTuberen legger til,

Personlig tilpassede AI-kampanjer

I valgkretser med omtrent to millioner velgere hver, blir personaliserte AI-kampanjer mer vanlig.

AI-avatarer som henvender seg til velgere ved navn og AI-chatboter som kaller bestanddeler i stemmene til politiske ledere, er strategier som brukes for å skape en direkte og personlig forbindelse med velgerne.

Disse metodene har som mål å øke velgerengasjementet og påvirke stemmeatferden.

India, med verdens største antall YouTube- og Instagram-brukere, ser at politiske partier i økende grad mobiliserer sosiale medier-påvirkere for å vinne velgere. Det regjerende Bharatiya Janata-partiet (BJP) har vært spesielt proaktivt.

I mars tildelte statsministeren 24 fremtredende sosiale medier-påvirkere ved National Creators Award-seremonien, for å fremme regjeringens fortelling.

Rollen til YouTube-influenser

En politisk kommentator observerte: "Bruken av sosiale medier-påvirkere i politiske kampanjer visker ut grensene mellom ekte politisk diskurs og reklameinnhold. Det reiser spørsmål om ektheten til meldingene som leveres til publikum."

Statlige enheter i BJP har organisert influencer-møter for å spre regjeringens prestasjoner. Fremtredende politikere og ministre har deltatt i intervjuer med influencere, og har videre integrert disse personlighetene i sine kampanjestrategier.

Effekten av AI på velgeradferd

Det kritiske spørsmålet gjenstår: Kan AI og deepfake-innhold endre velgeradferd betydelig?

Prateek Waghre, administrerende direktør for Internet Freedom Foundation, påpeker at i indisk kontekst er politiske partier allerede sterkt avhengige av fortellinger og villedende meldinger.

Den ekstra virkningen av syntetisk innhold er fortsatt usikker. Imidlertid er potensialet for AI til å påvirke unge velgere bemerkelsesverdig. AI-generert innhold, som videoer av statsminister Modi som synger populære tamilske sanger, har bidratt til å utvide rekkevidden hans og fremstille ham som en mer tilgjengelig leder.

Fremtiden til AI i valg

Etter hvert som AI-teknologien fortsetter å utvikle seg, vil dens rolle i valg sannsynligvis vokse. Rimelighet og tilgjengelighet til AI-verktøy betyr at politiske kampanjer kan produsere personlig tilpasset og overbevisende innhold i stor skala. De etiske implikasjonene og potensialet for misbruk utgjør imidlertid betydelige utfordringer.

Bruken av AI, deepfakes og påvirkere på sosiale medier i det indiske valget representerer et betydelig skifte i politisk kampanje.

Selv om disse verktøyene tilbyr innovative måter å engasjere velgere på, vekker de også bekymringer om desinformasjon og etisk praksis.

Narendra Modi sa i en chat med Microsoft-grunnlegger Bill Gates i mars:

Når India navigerer i dette digitale valglandskapet, vil balansen mellom innovasjon og integritet være avgjørende for å sikre en rettferdig og demokratisk prosess.

Dataene antyder at AIs innvirkning på velgeradferd vokser, men dets fulle potensial og implikasjoner er ennå ikke fullt ut forstått.