Iso-Britannian sääntelyviranomainen tutkii X:ää Grok AI:n haitallisten kuvien osalta verkkoturvallisuuslain nojalla

Yhdistyneen kuningaskunnan viestintävalvoja Ofcom on käynnistänyt virallisen tutkinnan X:ää vastaan, mikä lisännyt sääntelyn valvontaa suurille sosiaalisen median alustoille upotettuihin tekoälytyökaluihin.

Tutkinta keskittyy siihen, onko X täyttänyt lailliset velvoitteensa verkkoturvallisuuslain nojalla, kun laajalle levinnyt huoli siitä, miten sen tekoälychatbotia Grokia on käytetty laittoman ja haitallisen sisällön tuottamiseen.

Tämä siirto sijoittaa Yhdistyneen kuningaskunnan kasvavaan hallitusten joukkoon, jotka kyseenalaistavat, ovatko nykyiset tekoälyn suojatoimet riittäviä, kun kuva- ja tekstintuotantotyökalut ovat laajasti saatavilla verkossa.

Ofcom käynnistää virallisen tutkinnan

Ofcom kertoi maanantaina aloittaneensa tutkinnan X:stä, xAI:n tytäryhtiöstä, arvioidakseen mahdollisia laiminlyöntejä verkkoturvallisuuslain noudattamisessa.

Lainsäädäntö edellyttää alustoja ryhtymään toimiin suojellakseen käyttäjiä laittomalta sisällöltä ja vähentääkseen riskejä, jotka liittyvät uusiin teknologioihin.

Ofcomilla on valtuudet määrätä sakkoja tai estää palveluita, jos rikkomukset vahvistetaan.

Sääntelyviranomainen analysoi nyt yhtiön toimittamia todisteita ennen kuin tekee alustavan päätöksen.

Jos Ofcom toteaa, että lakia on rikottu, se voi määrätä X:lle enintään 10 % maailmanlaajuisesta liikevaihdostaan tai 18 miljoonan punnan sakon siitä, kumpi summa on suurempi.

Grok sääntelyn valokeilassa

Tutkinta keskittyy Grokiin, tekoälytyökaluun, jolla on vähemmän suojatoimia kuin monilla valtavirran chatboteilla.

Käyttäjät voivat olla vuorovaikutuksessa Grokin kanssa suoraan X:ssä merkitsemällä chatbotin julkaisuissa, jolloin se luo tekstiä ja kuvia, jotka näkyvät julkisesti alustalla.

Viranomaiset ja lainsäätäjät ovat ilmaisseet huolensa sen jälkeen, kun käyttäjät loivat suuria määriä ei-suostumuksellisia ja laittomia kuvia, mukaan lukien lapsiin ja naisiin liittyvää materiaalia.

Iso-Britannian laki kieltää lasten seksuaalisten kuvien hallussapidon tai jakamisen sekä intiimikuvien jakamisen ilman suostumusta, mukaan lukien tekoälytyökaluilla tuotettu sisältö.

Nämä oikeudelliset standardit pätevät riippumatta siitä, ovatko kuvat synteettisiä vai digitaalisesti muokattuja.

Alustan reagointi ja rajoitukset

Kun käyttäjät toistuvasti väärin käyttivät Grokin kuvanluontiominaisuuksia, xAI rajoitti ominaisuuden maksaville X:llä.

Sama toiminnallisuus pysyi kuitenkin vapaana erillisessä Grok-sovelluksessa.

Elon Musk varoitti tässä kuussa, että kuka tahansa, joka käyttää Grokia laittoman sisällön luomiseen, kohtaa samat seuraukset kuin laittoman materiaalin lataaminen.

xAI on kertonut poistavansa lakia rikkovia julkaisuja, mukaan lukien lapsiin kohdistuvat seksuaalisen hyväksikäytön materiaalit, ja sulkevansa tilit, jotka todetaan rikkoneiksi.

Yhdistyneen kuningaskunnan hallitus on ilmoittanut, että nämä toimet saattavat olla riittämättömiä. Liiketoimintaministeri Peter Kyle sanoi, että ministerit harkitsevat X:n kieltämistä tarvittaessa, mutta korosti, että sääntelyprosessin on saatava läpi.

Kasvava kansainvälinen paine

Huoli Grokista on ulottunut myös Iso-Britannian ulkopuolelle.

Indonesia ja Malesia estivät työkalun väliaikaisesti viikonloppuna vedoten laittomaan sisältöön liittyviin riskeihin.

Internet Watch Foundation, jonka Iso-Britannian hallitus on nimennyt auttamaan lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin tunnistamisessa, kertoi löytäneensä pimeästä verkosta rikollisia kuvia lapsista, joiden väitetään olevan Grokin tuottamia.

Euroopan tasolla Euroopan komissio määräsi X:n säilyttämään Grokin sisäiset asiakirjat vuoden loppuun asti.

Ranskan viranomaiset ovat syyttäneet työkalua selvästi laittomasta sisällöstä ilman suostumusta, mikä on tuonut esiin mahdolliset EU:n digitaaliset palvelulain rikkomukset.

Sääntely edellyttää suuria verkkoalustoja vähentämään laittoman materiaalin, mukaan lukien tekoälyllä tuotetun sisällön, leviämiseen liittyviä riskejä.

Kun sääntelijät useissa eri lainkäyttöalueissa lisäävät keskittymistään tekoälypohjaisiin palveluihin, Iso-Britannian X-tutkinnan odotetaan testaavan, miten nykyiset verkkoturvallisuuslait soveltuvat nopeasti kehittyviin generatiivisiin teknologioihin.