EU aloittaa tutkinnan Muskin X:stä Grok AI:n ja mahdollisten lasten turvallisuusrikkomusten osalta

Euroopan unioni on aloittanut virallisen tutkinnan Elon Muskin sosiaalisen median alustasta X huolestuneena siitä, että sen Grok-tekoälychatbot olisi saattanut tuottaa deepfake-kuvia, jotka "saattavat olla lapsiin kohdistuvaa seksuaalista hyväksikäyttöä."

Euroopan komissio kertoi, että tutkinta arvioi, täyttikö X velvoitteensa blokin digitaalisten palveluiden lain (DSA) nojalla tunnistaa, arvioida ja lieventää riskejä, jotka liittyvät Grokin käyttöönottoon EU:n 27 jäsenvaltiossa.

Tutkinta lisää X:n sisällön moderointikäytäntöjen kasvavaa tarkastelua ja voi entisestään kiristää jännitteitä Brysselin ja Washingtonin välillä.

Painopiste riskinarvioinnissa ja niiden lieventämisessä

Komission mukaan tutkinnassa tarkastellaan, käsitelikö X riittävästi Grokin käyttöönottoon liittyviä systeemisiä riskejä, erityisesti riskiä tuottaa ei-suostumuksellisia seksuaalisia deepfake-videoita, joissa esiintyy naisia ja lapsia.

Tapaus kuuluu DSA:han, EU:n laajaan verkkosisällön sääntökirjaan, joka asettaa tiukat vaatimukset suurille alustoille laittoman ja haitallisen materiaalin leviämisen estämiseksi.

"Naisten ja lasten suostumuksettomat seksuaaliset deepfake-tiedostot ovat väkivaltainen, hyväksymätön halventamisen muoto", sanoi EU:n teknologiakomissaari Henna Virkkunen.

Komissio totesi, ettei tutkintaan tässä vaiheessa ole väliaikaisia toimenpiteitä.

Vuonna 2023 voimaan astuneen Digital Services Actin mukaan EU:lla on valta määrätä sakkoja jopa 6 % yrityksen maailmanlaajuisesta vuosiliikevaihdosta, jos laittoman sisällön torjunta, järjestelmäriskien lieventäminen tai läpinäkyvyysvaatimusten noudattaminen laiminlyönnit.

Kasvava kansainvälinen vastareaktio Grokia kohtaan

EU:n tutkinta seuraa viime viikkoina lisääntynyttä globaalia tuomiota Grokia kohtaan.

Käyttäjät useissa maissa ovat raportoineet, että tekoälychatbot loi seksuaalista kuvastoa ja julkaisi ne X:ssä, mikä on herättänyt vastareaktiota viranomaisilta ja lapsiturvallisuuden puolestapuhujilta.

Yhdistyneessä kuningaskunnassa viestintävalvoja Ofcom tutkii jo virallisesti, rikkoiko X maan verkkoturvallisuuslakia liittyen Grokin tuotoksiin.

Ranskan ja Intian viranomaiset ovat myös ilmaisseet huolensa ja syyttäneet chatbotia laittomasta seksuaalisten kuvien luomisesta yksilöistä ilman heidän suostumustaan.

X, joka on Muskin tekoälyyrityksen xAI:n tytäryhtiö, on aiemmin kertonut poistavansa laittoman sisällön, mukaan lukien lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin, keskeyttävänsä rikolliset tilit ja tekevänsä yhteistyötä lainvalvonnan kanssa tarvittaessa.

Jännitteet Washingtonin kanssa uhkaavat

Grok-tutkinta tapahtuu pian sen jälkeen, kun EU määräsi X:lle erillisen 120 miljoonan euron (142 miljoonaa dollaria) sakon DSA:n nojalla.

Aiemmassa tapauksessa EU:n sääntelijät totesivat, että X:n maksettu sininen rastijärjestelmä harhautti käyttäjiä, että alusta ei tarjonnut riittävää pääsyä tutkijoille eikä se ollut asianmukaisesti perustanut mainonnan läpinäkyvyysarkistoa.

Tuo sakko herätti ankaraa kritiikkiä Trumpin hallinnolta, joka on esittänyt EU:n digitaalisen sääntelyn hyökkäykseksi sananvapautta ja amerikkalaisia teknologiayrityksiä vastaan.

Ennen joulukuun rangaistusta Yhdysvaltain varapresidentti JD Vance kirjoitti X-kanavalla, että "EU:n tulisi tukea sananvapautta, ei hyökätä amerikkalaisia yrityksiä vastaan roskan takia."

Eurooppalaiset viranomaiset ovat kuitenkin johdonmukaisesti hylänneet nämä väitteet, väittäen, että DSA on suunniteltu suojelemaan käyttäjien oikeuksia ja turvallisuutta eikä rajoittamaan laillista ilmaisua.