X joutuu maailmanlaajuisen tarkastelun kohteeksi, kun Grok-chatbot loi hyväksikäyttäviä kuvia

Elon Muskin sosiaalisen median alusta X (entinen Twitter) kohtaa kasvavaa sääntelyvalvontaa useilla lainkäyttöalueilla sen jälkeen, kun sen Grok-chatbotia käytettiin tekoälyn tuottamien seksuaalisten kuvien luomiseen ja jakamiseen lapsista ja naisista.

Euroopan, Intian ja Malesian viranomaiset ovat käynnistäneet tutkimuksia, ja myös Brasilian sekä Iso-Britannian viranomaiset ovat ilmaisseet huolensa, mikä merkitsee yhtä vakavimmista globaaleista sääntelyhaasteista Muskin tekoälytavoitteille.

Kiista keskittyy Grok Imagineen, äskettäin päivitettyyn ominaisuuteen, jonka avulla käyttäjät voivat luoda kuvia tekstipohjaisista kehotteista suoraan X:llä.

Viime viikkojen aikana työkalua on kerrottu käyttäneen ei-suostumuksellisten intiimejä kuvia (NCII), mukaan lukien alaikäisiä kuvaavia kuvia, tuottamiseen ja levittämiseen.

Monet näistä kuvista ovat levinneet laajasti alustalla, mikä on saanut sääntelijät ja turvallisuusaktivistit puuttumaan asiaan.

Sääntelyviranomaiset liikkuvat Euroopassa, Aasiassa ja Latinalaisessa Amerikassa

Euroopassa asia on saanut ankaraa kritiikkiä viranomaisilta.

Maanantaina pidetyssä lehdistötilaisuudessa Euroopan komission tiedottaja Thomas Regnier sanoi, että viranomainen tutkii asiaa "erittäin vakavasti" ja lisäsi, että X ja Grok tarjosivat "tulista tilaa", joka tuotti eksplisiittistä seksuaalista sisältöä, mukaan lukien lapsenomaiset kuvat.

"Tämä ei ole 'tulista'," Regnier sanoi. "Tämä on laitonta. Tämä on kauheaa. Tämä on ällöttävää."

Britannian mediavalvontajärjestö Ofcom vahvisti pyytäneensä X:ltä tietoja Grok-asioista.

Intiassa elektroniikka- ja tietotekniikkaministeriö määräsi X:n viime viikon lopulla suorittamaan "kattavan teknisen, menettelyllisen ja hallintotason tarkastelun" Grokista, asettaen määräajaksi 5. tammikuuta vaatimustenmukaisuudelle.

Malesian viestintä- ja multimediakomissio kertoi tutkivansa alustaa ja kutsuvansa koolle yritysten edustajia, kehottaen tiukempia suojatoimia, jotka ovat linjassa paikallisten lakien kanssa.

Brasiliassa eräs kansanedustaja kertoi pyytäneensä liittovaltion syyttäjää ja maan tietosuojaviranomaista keskeyttämään Grokin käytön, kunnes tutkinta on valmis.

Musk, xAI ja turvallisuuskeskustelu

Vaikka turvallisuusasiantuntijat ja teknologiakriitikot tuomitsivat hyväksikäyttävien kuvien leviämisen, Musk vaikutti pilkkaavan kiistaa jakamalla Grokin tuottamia kuvia X:ssä, mukaan lukien yhden, jossa hän oli bikineissä.

X julkaisi myöhemmin ensimmäisen julkisen vastauksensa virallisen Turvallisuus-tilinsä kautta, jossa hän ilmoitti ryhtyvänsä toimiin laitonta sisältöä, mukaan lukien lapsiin kohdistuva seksuaalisen hyväksikäytön materiaali (CSAM), vastaan poistamalla, sulkemalla tilejä ja tekemällä yhteistyötä lainvalvonnan kanssa.

Musk varoitti erikseen, että kuka tahansa, joka kehottaa Grokia luomaan laitonta sisältöä, kohtaa samat seuraukset kuin tällaisen materiaalin lataaminen.

XAI:n työntekijä kertoi, että Grok Imagine on päivitetty, mutta ei tarkentanut, koskevatko muutokset haitallisten eksplisiittisten kuvien syntymistä.

Yhdysvalloissa National Center on Sexual Exploitation vaati oikeusministeriötä ja Federal Trade Commissionia tutkimaan asiaa.

Vaikka liittovaltion virastot kieltäytyivät kommentoimasta, NCOSE sanoi, että olemassa olevat lait, jotka kieltävät CSAM:n luomisen ja levityksen, voivat tietyissä tilanteissa päteä jopa virtuaalisesti luotuun sisältöön.

Liikenne kasvaa kiistasta huolimatta

Vastareaktiosta huolimatta X:n käyttäjien sitoutuminen ei ole kärsinyt.

Apptopian tiedot osoittavat, että päivittäiset Grok-lataukset ovat kasvaneet 54 % 2. tammikuuta jälkeen, kun taas X:n päivittäiset lataukset ovat nousseet 25 % viimeisen kolmen päivän aikana.

Kriitikot väittävät, että jakso korostaa X:n luottamus- ja turvallisuusinfrastruktuurin heikkouksia, erityisesti tekoälyn tuottaman sisällön osalta.