Metas tillsynsråd varnar för politisk partiskhet i ledande AI-modeller

Artificiella intelligensmodeller som utvecklats av ledande företag, inklusive Anthropic och OpenAI, är avsevärt mindre benägna att generera politiskt kritiskt innehåll om regeringar som är kända för att inskränka yttrandefriheten, enligt en ny studie som publicerades av Metas Oversight Board i torsdags.

Rådet uppgav att resultaten tyder på att stora språkmodeller kan spegla de yttrandebegränsningar som införts av vissa regeringar, vilket väcker oro för att politisk partiskhet kan bli inbyggd i AI-tjänster som används av ett växande antal människor.

Studien undersökte 10 AI-modeller i flera jurisdiktioner

Forskningen markerar Oversight Boards första studie med fokus på stora språkmodeller.

Rådet, som finansieras av Meta men verkar självständigt, testade politiskt kritiska uppmaningar i 10 jurisdiktioner med hjälp av 10 AI-modeller.

Modellerna inkluderade system utvecklade av Meta Platforms, Google och kinesiska DeepSeek, tillsammans med modeller från andra ledande AI-företag, inklusive Anthropic och OpenAI.

För att genomföra analysen delade rådet in jurisdiktionerna i två kategorier, "permissiva" och "restriktiva".

Klassificeringarna baserades på rankningar som publicerats av Freedom House i dess årliga rapport Freedom in the World.

Modeller visade högre avvisningsfrekvenser för restriktiva regeringar

Enligt studien avvisade AI-modeller 34% av förfrågningarna som efterfrågade politiskt kritiskt innehåll om restriktiva jurisdiktioner som aktivt straffar sådan kritik, bland annat Kina och Saudiarabien.

I jämförelse sjönk avvisningsfrekvensen till 14% för jurisdiktioner som antingen inte har sådana lagar eller inte aktivt upprätthåller dem.

Rådet uppgav att fynden indikerar att AI-system kan vara mer försiktiga när de svarar på uppmaningar som rör regeringar med striktare kontroll över politisk yttrandefrihet.

Rådet påpekar oförklarade hänvisningar till icke-existerande regler

Utöver avvisningsfrekvenserna sade rådet att det identifierat exempel där AI-modeller föreföll motivera sina svar genom att hänvisa till regler som inte gick att verifiera.

"Vi såg också tecken på att modeller förklarade att de följde explicita regler som, såvitt vi kunde bedöma, inte existerade och inte tillämpades jämnt," sade rådet.

Rådet sade att detta väckte ytterligare frågor om hur AI-system avgör när de ska avböja politiskt känsliga förfrågningar och om dessa beslut tillämpas konsekvent.

Oversight Board uppmanar till större transparens

Som svar på sina fynd uppmanade rådet AI-utvecklare att genomföra systematiska människorättsutredningar som en del av utvecklingen och driftsättningen av sina modeller.

Det uppmanade också AI-företag att öka transparensen kring sina träningsmetoder och utvärderingsprocesser och menade att ökad öppenhet skulle hjälpa användare och forskare att bättre förstå hur politiskt känsligt innehåll hanteras.

Studien publicerades i samband med bredare diskussioner om styrningen av avancerade AI-system.

Tidigare denna vecka uppmanade Google DeepMinds vd Demis Hassabis till inrättandet av en USA-ledd AI-myndighet för att granska avancerade AI-modeller globalt innan de tas i bruk.

Oversight Boards rapport bidrar till den pågående debatten om balansen mellan AI-säkerhet, politisk neutralitet och transparens och antyder att sättet modeller svarar på politiskt känsliga ämnen kan variera beroende på vilka regeringar som är inblandade och de rättsliga miljöer i vilka dessa regeringar verkar.