OpenAI identyfikuje chińskich użytkowników wykorzystujących ChatGPT do narzędzi do monitorowania i profilowania

OpenAI poinformowało, że podejrzani użytkownicy powiązani z chińskim rządem próbowali wykorzystać ChatGPT do projektowania propozycji i materiałów marketingowych dla narzędzi do masowej inwigilacji, w tym systemów monitorowania Ujgurów i skanowania mediów społecznościowych w poszukiwaniu wypowiedzi politycznych lub religijnych.

W niedawno opublikowanym raporcie dotyczącym analizy zagrożeń zatytułowanym "Disrupting Malicious Uses of Our Models" OpenAI opisało wiele przypadków, w których konta powiązane z podmiotami powiązanymi z państwem wykorzystywały narzędzia sztucznej inteligencji do potencjalnie represyjnych celów.

Firma powiedziała, że użytkownicy wykorzystali ChatGPT do sporządzania dokumentów projektowych, debugowania kodu i analizowania danych związanych ze śledzeniem ruchów osób, rejestrami policyjnymi i aktywnością online.

Użytkownicy powiązani z chińskimi podmiotami

Jeden z najbardziej uderzających przykładów dotyczył użytkownika ChatGPT "prawdopodobnie powiązanego z [Chinese] jednostką rządową", który poprosił model o sporządzenie propozycji tego, co opisano jako "model ostrzegania o napływie Ujgurów związanych z wysokim ryzykiem".

We wniosku szczegółowo opisano plany dotyczące systemu, który analizowałby rezerwacje transportu i porównywał je z policyjnymi bazami danych w celu wydawania ostrzeżeń o przemieszczaniu się osób sklasyfikowanych jako "związane z Ujgurami i wysokiego ryzyka".

Inny użytkownik, piszący po chińsku, poprosił o pomoc w zaprojektowaniu materiałów promocyjnych dla narzędzia "sondy mediów społecznościowych", rzekomo stworzonego dla klienta rządowego.

Zgodnie z raportem OpenAI, narzędzie zostało opisane jako zdolne do skanowania platform takich jak X (dawniej Twitter), Facebook, Instagram, Reddit, TikTok i YouTube w celu zidentyfikowania "mowy ekstremistycznej" lub treści politycznych, etnicznych i religijnych.

OpenAI powiedziało, że oba konta zostały zbanowane, gdy firma wykryła aktywność.

Podkreślono, że nie ma dowodów na to, że użytkownicy wykorzystywali ChatGPT do prowadzenia rzeczywistej inwigilacji lub że narzędzia te zostały ostatecznie wdrożone.

Rzut oka na wykorzystanie sztucznej inteligencji przez podmioty autorytarne

W raporcie przedstawiono wyniki jako "rzadką migawkę" tego, jak autorytarne i złośliwe podmioty zaczynają włączać generatywną sztuczną inteligencję do swoich operacji – niekoniecznie w celu stworzenia nowych form cyberwojny, ale w celu udoskonalenia istniejących możliwości w zakresie analizy danych, propagandy i monitorowania społecznego.

"Jak pisaliśmy w czerwcu, ChRL czyni realne postępy w rozwijaniu swojej autokratycznej wersji sztucznej inteligencji" – stwierdziła firma w raporcie.

"Nasze zakłócenie kont ChatGPT używanych przez osoby najwyraźniej powiązane z chińskimi jednostkami rządowymi rzuca nieco światła na obecny stan wykorzystania sztucznej inteligencji w tym autorytarnym otoczeniu".

OpenAI podkreśliło, że zidentyfikowana przez niego aktywność wydaje się być wykonywana przez indywidualnych użytkowników, a nie operacje instytucjonalne na dużą skalę.

Firma stwierdziła jednak, że incydenty podkreślają potrzebę ciągłej czujności w związku z "potencjalnymi autorytarnymi nadużyciami" generatywnej sztucznej inteligencji.

Szersze ostrzeżenie OpenAI

OpenAI poinformowało, że ujawniło wyniki publicznie, aby ostrzec decydentów, badaczy i branżę technologiczną o tym, w jaki sposób sztuczna inteligencja może zostać ponownie wykorzystana do inwigilacji i represji.

Firma wezwała do proaktywnego monitorowania i ściślejszych zabezpieczeń, aby zapobiec podobnym nadużyciom.

"Aktywność była zgodna z indywidualnymi użytkownikami korzystającymi z ChatGPT, a nie z instytucjonalnym przyjęciem naszych modeli na dużą skalę" – zauważono w raporcie.

"W związku z tym jest to ograniczony wycinek wykorzystania różnych modeli sztucznej inteligencji w tym kontekście".