Rada nadzorcza Meta ostrzega przed politycznymi uprzedzeniami w czołowych modelach AI

Modele sztucznej inteligencji opracowane przez czołowe firmy, w tym Anthropic i OpenAI, znacznie rzadziej generują treści krytyczne politycznie wobec rządów znanych z ograniczania wolności słowa, według nowego badania opublikowanego w czwartek przez Radę Nadzorczą Meta.

Rada stwierdziła, że wyniki sugerują, iż duże modele językowe mogą odzwierciedlać ograniczenia swobody wypowiedzi narzucane przez niektóre rządy, co rodzi obawy, że uprzedzenia polityczne mogą zostać utrwalone w usługach AI używanych przez rosnącą liczbę osób.

Badanie objęło 10 modeli AI w wielu jurysdykcjach

To pierwsze badanie Rady Nadzorczej skoncentrowane na dużych modelach językowych.

Rada, finansowana przez Meta, lecz działająca niezależnie, przetestowała politycznie krytyczne zapytania w 10 jurysdykcjach przy użyciu 10 modeli AI.

Wśród modeli znalazły się systemy opracowane przez Meta Platforms, Google i chińską firmę DeepSeek, a także modele innych wiodących firm AI, w tym Anthropic i OpenAI.

Aby przeprowadzić analizę, rada podzieliła jurysdykcje na dwie kategorie: „permissive” (dozwalające) i „restrictive” (ograniczające).

Klasyfikacje oparto na rankingach opublikowanych przez Freedom House w jego rocznym raporcie Freedom in the World.

Modele częściej odmawiały wobec rządów restrykcyjnych

Według badania modele AI odrzuciły 34% próśb o treści politycznie krytyczne wobec jurysdykcji, które aktywnie penalizują taką krytykę, w tym Chin i Arabii Saudyjskiej.

Dla porównania, wskaźnik odmów spadł do 14% w jurysdykcjach, które albo nie mają takich przepisów, albo ich nie egzekwują.

Rada stwierdziła, że wyniki wskazują, iż systemy AI mogą być bardziej ostrożne w odpowiedziach na zapytania dotyczące rządów z bardziej rygorystyczną kontrolą nad wypowiedziami politycznymi.

Rada zwraca uwagę na niewyjaśnione odniesienia do nieistniejących zasad

Poza wskaźnikami odmów, Rada Nadzorcza poinformowała, że zidentyfikowała przykłady, w których modele AI wydawały się uzasadniać swoje odpowiedzi, odwołując się do zasad, których nie można było zweryfikować.

„Zauważyliśmy także dowody na to, że modele tłumaczyły, iż stosują się do wyraźnych zasad, które, o ile mogliśmy stwierdzić, nie istniały i nie były stosowane równomiernie” — poinformowała rada.

Rada powiedziała, że to rodzi dodatkowe pytania o to, w jaki sposób systemy AI podejmują decyzję o odrzuceniu politycznie wrażliwych próśb i czy decyzje te są stosowane konsekwentnie.

Rada Nadzorcza wzywa do większej przejrzystości

W odpowiedzi na swoje ustalenia Rada Nadzorcza wezwała twórców AI do przeprowadzania systematycznych ocen praw człowieka w ramach opracowywania i wdrażania swoich modeli.

Wezwała także firmy AI do zapewnienia większej przejrzystości w zakresie metod szkolenia i procesów oceny, argumentując, że większa otwartość pomoże użytkownikom i badaczom lepiej zrozumieć, jak traktowane są treści politycznie wrażliwe.

Badanie ukazuje się w obliczu szerszych dyskusji na temat zarządzania zaawansowanymi systemami AI.

Na początku tego tygodnia dyrektor generalny Google DeepMind, Demis Hassabis, wezwał do stworzenia kierowanego przez USA organu nadzorczego ds. AI, który miałby globalnie weryfikować zaawansowane modele AI przed ich wdrożeniem.

Raport Rady Nadzorczej dołącza do trwającej debaty nad równowagą między bezpieczeństwem AI, neutralnością polityczną a przejrzystością, sugerując, że sposób, w jaki modele reagują na politycznie wrażliwe tematy, może różnić się w zależności od zaangażowanych rządów i środowisk prawnych, w których te rządy działają.