Dozorčí rada Meta varuje před politickou zaujatostí v předních modelech AI

Modely umělé inteligence vyvinuté předními společnostmi, včetně Anthropic a OpenAI, mají podle nové studie zveřejněné ve čtvrtek Dozorčí radou Meta výrazně nižší pravděpodobnost, že vygenerují politicky kritický obsah vůči vládám známým omezováním svobody projevu, uvádí studie.

Rada uvedla, že zjištění naznačují, že velké jazykové modely mohou odrážet omezení projevu uložená některými vládami, což vyvolává obavy, že politická zaujatost by se mohla zabudovat do AI služeb používaných rostoucím počtem lidí.

Studie zkoumala 10 modelů napříč několika jurisdikcemi

Toto výzkumné šetření je první studií Dozorčí rady zaměřenou na velké jazykové modely.

Rada, kterou financuje Meta, ale která působí nezávisle, testovala politicky kritické podněty v 10 jurisdikcích pomocí 10 AI modelů.

Mezi modely byly systémy vyvinuté společnostmi Meta Platforms, Google a čínské DeepSeek, spolu s modely od dalších předních AI společností, včetně Anthropic a OpenAI.

Pro analýzu rada rozdělila jurisdikce do dvou kategorií, „permissive“ a „restrictive“.

Klasifikace vycházely ze žebříčků zveřejněných organizací Freedom House ve její výroční zprávě Freedom in the World.

Modely vykazovaly vyšší míru odmítnutí u restriktivních vlád

Podle studie AI modely odmítly 34 % požadavků žádajících politicky kritický obsah o restriktivních jurisdikcích, které aktivně trestají takovou kritiku, včetně Číny a Saúdské Arábie.

Pro srovnání klesla míra odmítnutí na 14 % u jurisdikcí, které buď takové zákony nemají, nebo je aktivně nevymáhají.

Rada uvedla, že zjištění naznačují, že AI systémy mohou být obezřetnější při odpovídání na podněty týkající se vlád s přísnější kontrolou politického projevu.

Rada upozorňuje na nevysvětlitelné odkazy na neexistující pravidla

Kromě míry odmítnutí Dozorčí rada uvedla, že identifikovala případy, kdy se AI modely zdály své odpovědi ospravedlňovat odkazem na pravidla, která nebyla ověřitelná.

„Také jsme zaznamenali důkazy, že modely vysvětlovaly, že postupují podle explicitních pravidel, která, pokud jsme schopni posoudit, neexistovala a nebyla rovnoměrně uplatňována,“ uvedla rada.

Rada řekla, že to vyvolává další otázky o tom, jak AI systémy určují, kdy odmítnout politicky citlivé žádosti, a zda jsou tato rozhodnutí aplikována konzistentně.

Dozorčí rada volá po větší transparentnosti

V reakci na svá zjištění Dozorčí rada vyzvala vývojáře AI, aby prováděli systematická hodnocení dopadů na lidská práva jako součást vývoje a nasazení svých modelů.

Také vyzvala AI firmy, aby poskytly větší transparentnost ohledně svých metod tréninku a hodnoticích procesů, s argumentem, že vyšší otevřenost by uživatelům a výzkumníkům pomohla lépe porozumět, jak je s politicky citlivým obsahem nakládáno.

Studie přichází v době širší diskuse o řízení pokročilých AI systémů.

Na začátku tohoto týdne Demis Hassabis, výkonný ředitel Google DeepMind, vyzval k vytvoření dohledu nad AI vedeného USA, který by globálně prověřoval pokročilé modely AI dříve, než budou nasazeny.

Zpráva Dozorčí rady přispívá do probíhající debaty o rovnováze mezi bezpečností AI, politickou neutralitou a transparentností a naznačuje, že způsob, jakým modely reagují na politicky citlivá témata, se může lišit v závislosti na zapojených vládách a právních prostředích, v nichž tyto vlády působí.