UE rozpoczyna śledztwo w sprawie X Muska w sprawie Grok AI i potencjalnych naruszeń bezpieczeństwa dzieci

Unia Europejska wszczęła formalne dochodzenie w sprawie platformy społecznościowej El Muska X, w związku z obawami, że chatbot sztucznej inteligencji Grok mógł generować deepfake'owe obrazy, które "mogą stanowić materiały dotyczące wykorzystywania seksualnego dzieci".

Komisja Europejska poinformowała, że dochodzenie oceni, czy X spełnił swoje zobowiązania wynikające z Ustawy o Usługach Cyfrowych (DSA) bloku, aby właściwie zidentyfikować, ocenić i ograniczyć ryzyka związane z wdrażaniem Grok w 27 państwach członkowskich UE.

Śledztwo dodatkowo zwiększa kontrolę nad praktykami moderacji treści X i może jeszcze bardziej zaostrzyć napięcia między Brukselą a Waszyngtonem.

Skupienie się na ocenie i ograniczaniu ryzyka

Według Komisji, dochodzenie będzie badać, czy X odpowiednio uwzględnił systemowe ryzyka związane z wdrożeniem Grok, zwłaszcza ryzyko generowania niezgodnych seksualnych deepfake'ów z udziałem kobiet i dzieci.

Sprawa ta podlega DSA, czyli obszernemu regulaminowi treści online UE, który nakłada surowe wymagania na duże platformy, aby zapobiec rozpowszechnianiu nielegalnych i szkodliwych materiałów.

"Niezgodne z konsensualną seksualną deepfake'ami kobiet i dzieci są brutalną, nieakceptowalną formą degradacji" – powiedziała komisarz ds. technologii UE Henna Virkkunen.

Komisja poinformowała, że dochodzenie na tym etapie nie będzie obejmować środków tymczasowych.

Na mocy ustawy o usługach cyfrowych, która weszła w życie w 2023 roku, UE ma uprawnienia do nakładania kar do 6% światowego rocznego obrotu firmy za niepowodzenie w zwalczaniu nielegalnych treści, ograniczaniu ryzyka systemowego lub spełnianiu wymogów przejrzystości.

Narastająca międzynarodowa krytyka wobec Groka

Śledztwo UE jest następstwem narastającego globalnego potępienia Groka w ostatnich tygodniach.

Użytkownicy z wielu krajów zgłaszali, że chatbot AI generował seksualizowane obrazy i publikował je na X, co wywołało reakcję ze strony regulatorów i obrońców bezpieczeństwa dzieci.

W Wielkiej Brytanii regulator komunikacji Ofcom już oficjalnie bada, czy X naruszył krajową ustawę o bezpieczeństwie online w odniesieniu do wyników Groka.

Władze we Francji i Indiach również wyraziły obawy, oskarżając chatbota o nielegalne tworzenie seksualizowanych zdjęć osób bez ich zgody.

X, będąca spółką zależną firmy AI prowadzonej przez Muska, xAI, wcześniej twierdziła, że usuwa nielegalne treści, w tym materiały dotyczące wykorzystywania seksualnego dzieci, zawiesza konta, które podchodzą do przestępstwa, oraz współpracuje z organami ścigania, gdy jest to konieczne.

Napięcia z Waszyngtonem nadciągają

Śledztwo Grok pojawia się krótko po tym, jak UE nałożyła osobną karę w wysokości 120 milionów euro (142 miliony dolarów) na X w ramach DSA.

W tamtym wcześniejszym przypadku regulatorzy UE uznali, że płatny system niebieskich znaczków X wprowadzał użytkowników w błąd, platforma nie zapewniała badaczom odpowiedniego dostępu do danych oraz nie ustanowiła właściwie repozytorium przejrzystości reklam.

Ta grzywna spotkała się z ostrą krytyką ze strony administracji Trumpa, która przedstawiła unijne regulacje cyfrowe jako atak na wolność słowa i amerykańskie firmy technologiczne.

Przed grudniową karą wiceprezydent USA JD Vance napisał na X, że "UE powinna wspierać wolność słowa, a nie atakować amerykańskie firmy z powodu śmieci."

Europejscy urzędnicy jednak konsekwentnie odrzucają te twierdzenia, argumentując, że DSA ma na celu ochronę praw i bezpieczeństwa użytkowników, a nie ograniczanie legalnej ekspresji.