AI, deepfakes og YouTube-påvirkere omformer det indiske valglandskapet

Av:
May 25, 2024
Listen

Fremveksten av AI-generert innhold har brakt en ny dimensjon til det pågående gigantiske valget i India.

Leter du etter signaler og varsler fra pro-traders? Registrer deg GRATIS på Invezz Signals™. Tar 2 min.

Med over 800 millioner internettbrukere utnytter politiske partier kunstig intelligens for å få kontakt med velgerne på enestående måter.

Fra AI-skapte avatarer som leverer personlige meldinger til AI-drevne chatbots som etterligner stemmene til politiske ledere, målet er klart: å påvirke velgeradferd i massiv skala.

Da jeg nylig kjørte gjennom de travle gatene i New Delhi, kunne jeg ikke unngå å legge merke til de digitale reklametavlene som viser uhyggelig naturtro AI-genererte videoer av politikere.

Teknologien omformer valglandskapet

Copy link to section

En populær indisk YouTuber, som ikke ønsket å bli navngitt, bemerker,

Integreringen av AI i politiske kampanjer forandrer måten partier kommuniserer med velgerne på, og gjør deres oppsøkende kontakt mer direkte og tilsynelatende personlig.

Sosiale medier og kommunikasjonsplattformer er klar til å bli de viktigste kanalene for villedende generativt AI-basert innhold, uavhengig av intensjonene deres. Gitt de lave adgangsbarrierene og den høye avhengigheten av disse plattformene, er det uunngåelig at de vil bli utnyttet for spredning av villedende informasjon.

I miljøer hvor enkel tilgang og utbredt bruk råder, er spredningen av AI-generert feilinformasjon nesten sikker.

Denne trenden understreker det presserende behovet for robuste tiltak for å sikre integriteten til Indias stortingsvalg mot truslene fra dype forfalskninger og desinformasjon.

Men desinformasjon og dens virkninger er allerede tydelige

Copy link to section

Til tross for den innovative bruken av AI, er desinformasjon fortsatt en betydelig utfordring.

Den indiske valgkommisjonen har advart mot å bruke kunstig intelligens for å spre falsk informasjon, men reguleringstiltak er begrenset.

Deepfake-videoer med Bollywood-stjernene Ranveer Singh og Aamir Khan som kritiserer regjeringen, gikk viralt før de ble avkreftet.

En annen video viste feilaktig Congress Party-leder Rahul Gandhi som trakk seg ved å bruke sin AI-klonede stemme.

YouTuberen legger til,

Hastigheten som AI-generert innhold kan spre falsk informasjon med er alarmerende. Det er et kraftig verktøy som, hvis det misbrukes, kan påvirke offentlig oppfatning og tillit betydelig.

Religion i spill

Copy link to section

I begynnelsen av mars ble et realistisk AI-generert bilde av den indiske statsministeren Narendra Modi, stilt som Bhishma Pitamah fra det gamle hinduistiske eposet Mahabharata, promotert som en politisk reklame på Instagram.

Bildet, med Modi med langt bølget grått hår, et solformet merke på pannen og iført kroppsrustninger, skildret ham som en reinkarnasjon av Bhishma, den øverste sjefen som kjempet mot utenlandske trusler.

Dette bildet ble opprettet av høyresiden Hokage Modi Sama og først publisert i 2023, og ble forsterket som en politisk reklame i to dager i mars, og fikk mer enn 35 000 visninger.

Det felles temaet på tvers av alle bildene som ble delt av Hokage Modi Sama var verdivurderingen av Modi som en hinduistisk leder. Populære AI-bilder forsterket gjennom sponsede innlegg omtalte Modi som en reinkarnasjon av Bhishma, en gudssønn i dress, og kongen av hinduistiske Rashtra, som omfavnet hinduistisk arv og høstet millioner av likes og visninger.

Hindu Rashtra er en omstridt ideologi som tar til orde for et hinduistisk-majoritært styre i India, som avviker fra dets sekulære grunnleggende prinsipper.

Personlig tilpassede AI-kampanjer

Copy link to section

I valgkretser med omtrent to millioner velgere hver, blir personaliserte AI-kampanjer mer vanlig.

AI-avatarer som henvender seg til velgere ved navn og AI-chatboter som kaller bestanddeler i stemmene til politiske ledere, er strategier som brukes for å skape en direkte og personlig forbindelse med velgerne.

Disse metodene har som mål å øke velgerengasjementet og påvirke stemmeatferden.

India, med verdens største antall YouTube- og Instagram-brukere, ser at politiske partier i økende grad mobiliserer sosiale medier-påvirkere for å vinne velgere. Det regjerende Bharatiya Janata-partiet (BJP) har vært spesielt proaktivt.

I mars tildelte statsministeren 24 fremtredende sosiale medier-påvirkere ved National Creators Award-seremonien, for å fremme regjeringens fortelling.

Rollen til YouTube-influenser

Copy link to section

En politisk kommentator observerte: “Bruken av sosiale medier-påvirkere i politiske kampanjer visker ut grensene mellom ekte politisk diskurs og reklameinnhold. Det reiser spørsmål om ektheten til meldingene som leveres til publikum.”

Statlige enheter i BJP har organisert influencer-møter for å spre regjeringens prestasjoner. Fremtredende politikere og ministre har deltatt i intervjuer med influencere, og har videre integrert disse personlighetene i sine kampanjestrategier.

Effekten av AI på velgeradferd

Copy link to section

Det kritiske spørsmålet gjenstår: Kan AI og deepfake-innhold endre velgeradferd betydelig?

Prateek Waghre, administrerende direktør for Internet Freedom Foundation, påpeker at i indisk kontekst er politiske partier allerede sterkt avhengige av fortellinger og villedende meldinger.

Den ekstra virkningen av syntetisk innhold er fortsatt usikker. Imidlertid er potensialet for AI til å påvirke unge velgere bemerkelsesverdig. AI-generert innhold, som videoer av statsminister Modi som synger populære tamilske sanger, har bidratt til å utvide rekkevidden hans og fremstille ham som en mer tilgjengelig leder.

Fremtiden til AI i valg

Copy link to section

Etter hvert som AI-teknologien fortsetter å utvikle seg, vil dens rolle i valg sannsynligvis vokse. Rimelighet og tilgjengelighet til AI-verktøy betyr at politiske kampanjer kan produsere personlig tilpasset og overbevisende innhold i stor skala. De etiske implikasjonene og potensialet for misbruk utgjør imidlertid betydelige utfordringer.

Bruken av AI, deepfakes og påvirkere på sosiale medier i det indiske valget representerer et betydelig skifte i politisk kampanje.

Selv om disse verktøyene tilbyr innovative måter å engasjere velgere på, vekker de også bekymringer om desinformasjon og etisk praksis.

Narendra Modi sa i en chat med Microsoft-grunnlegger Bill Gates i mars:

I et demokratisk og stort land som India, hvis noen bruker deepfake, for eksempel de bruker stemmen min over en ekkel video, vil folk først tro at det vil føre til en skogbrann. Derfor er det viktig at deepfake og AI genererte omtalekilder til å begynne med i begynnelsen. Vi må seriøst tenke på noen Dos and Donts.

Når India navigerer i dette digitale valglandskapet, vil balansen mellom innovasjon og integritet være avgjørende for å sikre en rettferdig og demokratisk prosess.

Dataene antyder at AIs innvirkning på velgeradferd vokser, men dets fulle potensial og implikasjoner er ennå ikke fullt ut forstått.

Denne artikkelen er oversatt fra engelsk ved hjelp av AI-verktøy, og deretter korrekturlest og redigert av en lokal oversetter.

Verden