Metas tilsynsråd advarer om politisk bias i førende AI-modeller

Kunstige intelligensmodeller udviklet af førende virksomheder, herunder Anthropic og OpenAI, er betydeligt mindre tilbøjelige til at generere politisk kritik af regeringer, der er kendt for at begrænse ytringsfriheden, ifølge en ny undersøgelse, som Metas tilsynsråd offentliggjorde torsdag.

Rådet sagde, at resultaterne tyder på, at store sprogmodeller kan afspejle de tale- eller ytringsrestriktioner, som visse regeringer pålægger, hvilket rejser bekymring for, at politisk bias kan blive indlejret i AI-tjenester, som et stigende antal mennesker bruger.

Undersøgelsen omfattede 10 AI-modeller i flere jurisdiktioner

Undersøgelsen er Tilsynsrådets første studie med fokus på store sprogmodeller.

Rådet, som finansieres af Meta men opererer uafhængigt, testede politisk kritiske prompts i 10 jurisdiktioner ved hjælp af 10 AI-modeller.

Modellerne omfattede systemer udviklet af Meta Platforms, Google og Kinas DeepSeek, sammen med modeller fra andre førende AI-virksomheder, herunder Anthropic og OpenAI.

For at gennemføre analysen delte rådet jurisdiktionerne i to kategorier, "permissive" og "restrictive."

Klassifikationerne var baseret på ranglister offentliggjort af Freedom House i deres årlige rapport Freedom in the World.

Modeller viste højere afvisningsprocenter for restriktive regeringer

Ifølge undersøgelsen afviste AI-modellerne 34% af forespørgsler om politisk kritisk indhold vedrørende restriktive jurisdiktioner, som aktivt sanktionerer sådan kritik, herunder Kina og Saudi-Arabien.

Til sammenligning faldt afvisningsprocenten til 14% for jurisdiktioner, som enten ikke har sådanne love eller ikke håndhæver dem aktivt.

Rådet sagde, at resultaterne indikerer, at AI-systemer kan være mere forsigtige, når de besvarer prompts, der involverer regeringer med strengere kontrol med politisk ytring.

Rådet påpeger uforklarlige henvisninger til ikke-eksisterende regler

Ud over afvisningsprocenterne sagde Tilsynsrådet, at det identificerede eksempler, hvor AI-modeller tilsyneladende begrundede deres svar ved at henvise til regler, som ikke kunne verificeres.

"Vi så også beviser på, at modeller forklarede, at de fulgte eksplicitte regler, som, så vidt vi kunne bedømme, ikke eksisterede og ikke blev anvendt ensartet," sagde rådet.

Rådet sagde, at dette rejste yderligere spørgsmål om, hvordan AI-systemer afgør, hvornår de skal afvise politisk følsomme forespørgsler, og om disse beslutninger anvendes konsekvent.

Tilsynsrådet opfordrer til større gennemsigtighed

Som svar på sine fund opfordrede Tilsynsrådet AI-udviklere til at gennemføre systematiske menneskerettighedsvurderinger som en del af udviklingen og udrulningen af deres modeller.

Det opfordrede også AI-virksomheder til at give større gennemsigtighed om deres træningsmetoder og evalueringsprocesser og fremhævede, at øget åbenhed ville hjælpe brugere og forskere til bedre at forstå, hvordan politisk følsomt indhold håndteres.

Undersøgelsen kommer midt i bredere drøftelser om styring af avancerede AI-systemer.

Tidligere på ugen opfordrede Google DeepMind's administrerende direktør Demis Hassabis til oprettelsen af en USA-ledet AI-vagthund, der globalt skulle screene avancerede AI-modeller, før de tages i brug.

Tilsynsrådets rapport bidrager til den igangværende debat om balancen mellem AI-sikkerhed, politisk neutralitet og gennemsigtighed og antyder, at måden, hvorpå modeller reagerer på politisk følsomme emner, kan variere afhængigt af de involverede regeringer og de juridiske miljøer, som disse regeringer opererer i.