Metas Oversight Board varsler om risiko for politisk skjevhet i ledende AI-modeller

Kunstig intelligens-modeller utviklet av ledende selskaper, inkludert Anthropic og OpenAI, er betydelig mindre tilbøyelige til å generere politisk kritisk innhold om regjeringer som er kjent for å begrense ytringsfriheten, ifølge en ny studie publisert av Metas Oversight Board torsdag.

Rådet sa at funnene tyder på at store språkmodeller kan gjenspeile de ytringsbegrensningene som enkelte regjeringer innfører, noe som reiser bekymring for at politisk skjevhet kan bli innebygd i AI-tjenester som brukes av et økende antall mennesker.

Studien undersøkte 10 AI-modeller på tvers av flere jurisdiksjoner

Undersøkelsen er Oversight Boardets første studie med fokus på store språkmodeller.

Rådet, som finansieres av Meta men opererer uavhengig, testet politisk kritiske forespørsler i 10 jurisdiksjoner ved hjelp av 10 AI-modeller.

Modellene inkluderte systemer utviklet av Meta Platforms, Google og Kinas DeepSeek, samt modeller fra andre ledende AI-selskaper, blant andre Anthropic og OpenAI.

For å gjennomføre analysen delte rådet jurisdiksjonene inn i to kategorier, "permissive" og "restrictive."

Klassifiseringen var basert på rangeringer publisert av Freedom House i deres årlige Freedom in the World-rapport.

Modellene viste høyere avvisningsrater for restriktive regjeringer

Ifølge studien avviste AI-modellene 34% av forespørslene som søkte politisk kritisk innhold om restriktive jurisdiksjoner som aktivt straffer slik kritikk, inkludert Kina og Saudi-Arabia.

Til sammenligning falt avvisningsraten til 14% for jurisdiksjoner som enten ikke har slike lover eller som ikke aktivt håndhever dem.

Rådet sa at funnene indikerer at AI-systemer kan være mer forsiktige når de svarer på forespørsler som omhandler regjeringer med strengere kontroll over politisk ytring.

Rådet påpeker uforklarte referanser til ikke-eksisterende regler

Utover avvisningsratene sa Oversight Boardet at det identifiserte eksempler der AI-modeller syntes å rettferdiggjøre svarene sine ved å vise til regler som ikke kunne verifiseres.

"Vi så også bevis på at modeller forklarte at de fulgte eksplisitte regler som, så vidt vi kunne se, ikke eksisterte og som ikke ble anvendt jevnt," sa rådet.

Rådet sa at dette reiste ytterligere spørsmål om hvordan AI-systemer avgjør når de skal avslå politisk sensitive forespørsler, og om disse beslutningene blir anvendt konsekvent.

Oversight Board etterlyser større åpenhet

Som svar på funnene oppfordret Oversight Board utviklere av AI til å gjennomføre systematiske menneskerettighetsvurderinger som en del av utvikling og utrulling av modellene sine.

Det ba også AI-selskaper om å gi større åpenhet rundt sine treningsmetoder og evalueringsprosesser, med argumentet at økt åpenhet vil hjelpe brukere og forskere å bedre forstå hvordan politisk sensitivt innhold håndteres.

Studien kommer midt i bredere diskusjoner om styring av avanserte AI-systemer.

Tidligere denne uken gikk Google DeepMind-sjef Demis Hassabis inn for opprettelsen av et USA-ledet AI-tilsyn som skal vurdere avanserte AI-modeller globalt før de tas i bruk.

Oversight Boardets rapport tilfører den pågående debatten om balansen mellom AI-sikkerhet, politisk nøytralitet og åpenhet, og antyder at måten modeller svarer på politisk sensitive temaer kan variere avhengig av hvilke regjeringer som er involvert og de rettslige rammene disse regjeringene opererer innenfor.