Consiliul Meta semnalează părtinire politică în modelele AI

Modelele de inteligență artificială dezvoltate de companii de top, inclusiv Anthropic și OpenAI, au mult mai puține șanse să genereze conținut critic din punct de vedere politic la adresa guvernelor cunoscute pentru restrângerea libertății de exprimare, conform unui nou studiu publicat joi de Consiliul de supraveghere al Meta.

Consiliul a afirmat că rezultatele sugerează că modelele lingvistice mari ar putea reflecta restricțiile privind exprimarea impuse de anumite guverne, ceea ce ridică îngrijorări că părtinirea politică ar putea deveni integrată în serviciile AI folosite de un număr tot mai mare de oameni.

Studiul a examinat 10 modele AI în mai multe jurisdicții

Cercetarea reprezintă primul studiu al Consiliului de supraveghere axat pe modelele lingvistice mari.

Consiliul, finanțat de Meta, dar care funcționează independent, a testat solicitări critice din punct de vedere politic în 10 jurisdicții utilizând 10 modele AI.

Modelele au inclus sisteme dezvoltate de Meta Platforms, Google și DeepSeek din China, alături de modele de la alte companii AI de top, inclusiv Anthropic și OpenAI.

Pentru a realiza analiza, consiliul a împărțit jurisdicțiile în două categorii: „permise” și „restrictive”.

Clasificările s-au bazat pe clasamentele publicate de Freedom House în raportul său anual Freedom in the World.

Modelele au arătat rate de refuz mai mari pentru guverne restrictive

Potrivit studiului, modelele AI au refuzat 34% dintre cereri care căutau conținut politic critic la adresa jurisdicțiilor restrictive care penalizează activ astfel de critici, inclusiv China și Arabia Saudită.

În comparație, rata de refuz a scăzut la 14% pentru jurisdicțiile care fie nu au astfel de legi, fie nu le aplică activ.

Consiliul a declarat că rezultatele indică faptul că sistemele AI pot fi mai prudente atunci când răspund la solicitări care implică guverne cu controale mai stricte asupra discursului politic.

Consiliul semnalează referințe inexplicabile la reguli inexistente

Dincolo de ratele de refuz, Consiliul de supraveghere a declarat că a identificat exemple în care modelele AI păreau să-și justifice răspunsurile prin referire la reguli care nu puteau fi verificate.

„Am observat, de asemenea, dovezi că modelele explicau că respectau reguli explicite care, din câte am putut stabili, nu existau și nu erau aplicate în mod uniform,” a spus consiliul.

Consiliul a afirmat că acest lucru ridică întrebări suplimentare despre modul în care sistemele AI determină când să respingă solicitările politic sensibile și dacă aceste decizii sunt aplicate în mod consecvent.

Consiliul de supraveghere cere o transparență mai mare

Ca răspuns la concluziile sale, Consiliul de supraveghere a îndemnat dezvoltatorii de AI să realizeze evaluări sistematice ale drepturilor omului ca parte a dezvoltării și implementării modelelor lor.

De asemenea, a solicitat companiilor de AI să ofere o transparență mai mare privind metodele lor de antrenament și procesele de evaluare, argumentând că o deschidere crescută ar ajuta utilizatorii și cercetătorii să înțeleagă mai bine cum este gestionat conținutul politic sensibil.

Studiul apare pe fundalul unor discuții mai ample privind guvernanța sistemelor AI avansate.

La începutul acestei săptămâni, directorul executiv al Google DeepMind, Demis Hassabis, a cerut crearea unui organism de supraveghere AI condus de SUA pentru a evalua la nivel global modelele AI avansate înainte de a fi implementate.

Raportul Consiliului de supraveghere se adaugă dezbaterii în curs asupra echilibrului între siguranța AI, neutralitatea politică și transparență, sugerând că modul în care modelele răspund la subiecte politic sensibile poate varia în funcție de guvernele implicate și de mediile juridice în care acestea operează.