Brytyjski regulator bada X w sprawie szkodliwych obrazów Grok AI na podstawie prawa o bezpieczeństwie online

Brytyjski regulator komunikacji, Ofcom, wszczął formalne dochodzenie w sprawie X, zaostrzając kontrolę regulacyjną nad narzędziami sztucznej inteligencji osadzonymi w głównych platformach mediów społecznościowych.

Śledztwo koncentruje się na tym, czy X spełnił swoje zobowiązania prawne wynikające z Ustawy o Bezpieczeństwie Online, po powszechnych obawach dotyczących sposobu, w jaki jego chatbot AI Grok był wykorzystywany do generowania nielegalnych i szkodliwych treści.

Ten ruch stawia Wielką Brytanię wśród rosnącej listy rządów kwestionujących, czy obecne zabezpieczenia AI są wystarczające, gdy narzędzia do generowania obrazów i tekstu są szeroko dostępne online.

Ofcom wszczynał formalne śledztwo

Ofcom poinformował w poniedziałek, że wszczął dochodzenie w sprawie X, spółki zależnej xAI, aby ocenić potencjalne nieprzestrzeganie ustawy o bezpieczeństwie online.

Ustawa wymaga od platform podejmowania działań mających na celu ochronę użytkowników przed nielegalnymi treściami oraz zmniejszenie ryzyka związanego z nowymi technologiami.

Ofcom ma uprawnienia do nakładania kar lub blokowania usług, jeśli potwierdzone zostaną naruszenia.

Regulator przeanalizuje teraz dowody dostarczone przez firmę przed podjęciem decyzji tymczasowej.

Jeśli Ofcom uzna, że prawo zostało naruszone, może nałożyć karę na X do 10% swoich globalnych przychodów lub £18 milionów, w zależności od tego, która kwota jest wyższa.

Grok pod reflektorem regulacyjnym

Sonda koncentruje się na Groku, narzędziu AI z mniejszą liczbą zabezpieczeń niż wiele popularnych chatbotów.

Użytkownicy mogą bezpośrednio wchodzić w interakcję z Grokiem na X, oznaczając chatbota w postach, co zachęca go do generowania tekstów i obrazów publicznych na platformie.

Regulatorzy i ustawodawcy wyrazili obawy po tym, jak użytkownicy stworzyli duże ilości niezgodnych z prawem i niezgodnych z prawem obrazów, w tym materiałów dotyczących dzieci i kobiet.

Prawo Wielkiej Brytanii zabrania posiadania lub udostępniania zdjęć seksualnych dzieci oraz rozpowszechniania intymnych zdjęć bez zgody, w tym treści generowanych za pomocą narzędzi AI.

Te standardy prawne obowiązują niezależnie od tego, czy obrazy są syntetyczne, czy cyfrowo zmienione.

Reakcja platformy i ograniczenia

Po wielokrotnym nadużywaniu funkcji generowania obrazów Grok przez użytkowników, xAI ograniczyło tę funkcję do płatnych użytkowników na X.

Ta sama funkcjonalność pozostała jednak dostępna w samodzielnej aplikacji Grok.

Elon Musk ostrzegł w tym miesiącu, że każdy, kto używa Grok do tworzenia nielegalnych treści, poniesie takie same konsekwencje jak przesyłanie nielegalnych materiałów.

xAI oświadczyło, że usuwa posty łamiące prawo, w tym materiały dotyczące wykorzystywania seksualnego dzieci, oraz zawiesza konta uznane za naruszające przepisy.

Rząd Wielkiej Brytanii wskazał, że te kroki mogą być niewystarczające. Sekretarz ds. Biznesu Peter Kyle powiedział, że ministrowie rozważą zakaz X, jeśli zajdzie taka potrzeba, podkreślając, że proces regulacyjny musi się przebiegać zgodnie z normą.

Rosnąca presja międzynarodowa

Obawy dotyczące Groka wykraczają poza Wielką Brytanię.

Indonezja i Malezja tymczasowo zablokowały to narzędzie w weekend, powołując się na ryzyko związane z nielegalnymi treściami.

Internet Watch Foundation, wyznaczona przez rząd Wielkiej Brytanii do identyfikacji materiałów dotyczących wykorzystywania seksualnego dzieci, poinformowała, że znalazła na dark webie kryminalne zdjęcia dzieci, które rzekomo zostały stworzone przez Groka.

Na poziomie europejskim Komisja Europejska nakazała X przechowywanie wewnętrznych dokumentów dotyczących Grok do końca roku.

Francuskie władze oskarżyły to narzędzie o generowanie wyraźnie nielegalnych treści bez zgody, wskazując na potencjalne naruszenia unijnej ustawy o usługach cyfrowych.

Regulacja wymaga od dużych platform internetowych ograniczenia ryzyka związanego z rozpowszechnianiem nielegalnych treści, w tym treści tworzonych za pomocą AI.

W miarę jak regulatorzy w różnych jurysdykcjach coraz bardziej koncentrują się na usługach opartych na AI, brytyjskie śledztwo dotyczące X ma sprawdzić, jak istniejące przepisy dotyczące bezpieczeństwa online mają zastosowanie do szybko rozwijających się technologii generatywnych.