X znajduje się pod globalną krytyką, ponieważ chatbot Grok generował wyzyskujące obrazy

Platforma społecznościowa Elona Muska X (dawniej znana jako Twitter) stoi w obliczu rosnącej kontroli regulacyjnej w wielu jurysdykcjach po tym, jak chatbot Grok został użyty do tworzenia i udostępniania seksualizowanych zdjęć dzieci i kobiet generowanych przez AI.

Władze w Europie, Indiach i Malezji wszczęły dochodzenia, podczas gdy urzędnicy w Brazylii i Wielkiej Brytanii również wyrazili obawy, co stanowi jedno z najpoważniejszych globalnych wyzwań regulacyjnych dla ambicji Muska w zakresie AI.

Kontrowersje koncentrują się wokół Grok Imagine, niedawno zaktualizowanej funkcji, która pozwala użytkownikom generować obrazy z tekstowych promptów bezpośrednio na X.

W ciągu ostatnich kilku tygodni narzędzie to podobno służyło do tworzenia i rozpowszechniania niezgodnych, intymnych zdjęć (NCII), w tym treści przedstawiających nieletnich.

Wiele z tych zdjęć rozprzestrzeniło się szeroko na platformie, co wywołało interwencję regulatorów i działaczy na rzecz bezpieczeństwa.

Regulatorzy przemieszczają się po Europie, Azji i Ameryce Łacińskiej

W Europie kwestia ta spotkała się z ostrą krytyką ze strony urzędników.

Na konferencji prasowej w poniedziałek rzecznik Komisji Europejskiej Thomas Regnier powiedział, że władze "bardzo poważnie przyjrzają się tej sprawie", dodając, że X i Grok oferują "ostry tryb", który generuje jawne treści seksualne, w tym dziecięce obrazy.

"To nie jest 'ostre'," powiedział Regnier. "To nielegalne. To jest oburzające. To obrzydliwe."

Brytyjski organ nadzorujący media Ofcom potwierdził, że zażądał od X informacji dotyczących kwestii Grok.

W Indiach Ministerstwo Elektroniki i Technologii Informacyjnej pod koniec zeszłego tygodnia nakazało X przeprowadzenie "kompleksowego przeglądu technicznego, proceduralnego i zarządzającego" Grok, wyznaczając termin na 5 stycznia na spełnienie wygód.

Komisja ds. Komunikacji i Multimediów Malezji poinformowała, że prowadzi dochodzenie w sprawie platformy i wezwie przedstawicieli firm, apelując o silniejsze zabezpieczenia zgodne z lokalnymi przepisami.

W Brazylii posłanka poinformowała, że zwróciła się do federalnego prokuratora publicznego oraz krajowego urzędu ochrony danych o zawieszenie korzystania z usług Groka do czasu zakończenia śledztwa.

Musk, xAI i debata o bezpieczeństwie

Podczas gdy eksperci ds. bezpieczeństwa i krytycy technologii potępili rozprzestrzenianie się wyzyskujących zdjęć, Musk zdawał się wyśmiewać kontrowersje, udostępniając na X zdjęcia generowane przez Grok, w tym jedno przedstawiające siebie w bikini.

X później wydał swoją pierwszą publiczną odpowiedź za pośrednictwem oficjalnego konta Safety, informując, że podejmuje działania przeciwko nielegalnym treściom, w tym materiałom o wykorzystywaniu seksualnym dzieci (CSAM), poprzez usuwanie, zawieszenie kont oraz współpracę z organami ścigania.

Musk osobno ostrzegł, że każdy, kto zachęci Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje jak przesyłanie takich materiałów.

Pracownik xAI powiedział, że Grok Imagine został zaktualizowany, ale nie sprecyzował, czy zmiany dotyczą generowania szkodliwych, jawnych obrazów.

W USA National Center on Sexual Exploitation zwróciło się do Departamentu Sprawiedliwości i Federalnej Komisji Handlu o przeprowadzenie dochodzenia.

Chociaż agencje federalne odmówiły komentarza, NCOSE stwierdziło, że obowiązujące przepisy zakazujące tworzenia i dystrybucji CSAM mogą mieć zastosowanie nawet do treści tworzonych wirtualnie w określonych okolicznościach.

Ruch rośnie mimo kontrowersji

Pomimo krytyki, zaangażowanie użytkowników X nie ucierpiało.

Dane Apptopii pokazują, że dzienne pobieranie Grok wzrosło o 54% od 2 stycznia, podczas gdy dzienne pobieranie X wzrosło o 25% w ciągu ostatnich trzech dni.

Krytycy twierdzą, że odcinek podkreśla słabości infrastruktury zaufania i bezpieczeństwa X, szczególnie w zakresie treści generowanych przez AI.