Malesia ja Indonesia estävät Muskin Grok-tekoälyn eksplisiittisten deepfake-kuvien vuoksi

Malesia ja Indonesia ovat estäneet pääsyn Elon Muskin tekoälychatbotiin Grok, vedoten huoliin siitä, että työkalua käytetään tuottamaan ei-suostumuksellista sisältöä, seksuaalisesti eksplisiittistä ja säädytöntä sisältöä, mukaan lukien naisia ja lapsia sisältävää materiaalia.

Viikonlopun koordinoitu toiminta merkitsee ensimmäisiä tunnetuja tekoälytyökalun kieltoja maailmanlaajuisesti ja lisää kasvavaa sääntelypainetta xAI:lle ja sen emoalustalle X:lle.

Sääntelijät mainitsevat turvatoimien puutteet

Malesian viestintä- ja multimediakomissio määräsi sunnuntaina väliaikaiset rajoitukset Grokille, viitaten siihen, mitä se kuvaili "X Corpin toistuviksi epäonnistumisiksi" chatbotiin liittyvien sisältöriskien puuttumisessa.

Sääntelijä totesi, että X:n vastaukset olivat "riittämättömiä" ja nojautuivat liikaa käyttäjien raportointimekanismeihin sen sijaan, että olisi käsitelty rakenteellisia riskejä tekoälytyökalun suunnittelussa.

"Näin ollen rajoitus asetetaan ennaltaehkäisevänä ja suhteellisena toimenpiteenä samalla kun oikeudelliset ja sääntelyprosessit ovat käynnissä", komissio totesi.

"Pääsy Grokiin pysyy rajoitettuna, kunnes tehokkaat turvatoimet otetaan käyttöön, erityisesti estämään naisiin ja lapsiin liittyvää sisältöä."

Indonesia asetti vastaavan väliaikaisen eston päivää aiemmin.

Sen viestintä- ja digitaaliasioiden ministeriö kertoi pyytäneensä X-viranomaisia selventämään asiaa, korostaen, että tekoälyn väärinkäyttö väärennettyjen pornografioiden tuottamiseen on "digitaalista väkivaltaa."

Ministeri Meutya Hafid sanoi: "Hallitus pitää ei-suostumuksellisia seksuaalisia deepfakeja vakavana ihmisoikeuksien, ihmisarvon ja kansalaisten turvallisuuden loukkauksena digitaalisessa ympäristössä."

Molemmat maat valvovat tiukkoja pornografian vastaisia lakeja, jotka kieltävät säädyttömän tai seksuaalisen materiaalin levityksen verkossa.

Syytökset väärinkäytöstä ja maailmanlaajuinen tarkastelu

Kiellot seuraavat raportteja, joiden mukaan Grok mahdollisti käyttäjien luomisen ja jakamisen ilman suostumuksellisia eksplisiittisiä kuvia, mukaan lukien lapsiin kohdistuvaa seksuaalista hyväksikäyttöä.

Internet Watch Foundation kertoi NBC Newsille nähneensä pimeän verkon käyttäjien jakavan "rikollista kuvastoa", jonka he sanoivat olevan luotu Grokilla, esittäen alaikäisiä tyttöjä käytännössä alasti.

Wired raportoi myös, että työkalua oli käytetty digitaalisesti naisten riisumiseen valokuvissa, jotka pukeutuivat vaatimattomiin tai uskonnollisiin vaatteisiin, kuten hijabiin, sareihin ja nunnien vaatteisiin.

Grokin tavoittavuus laajeni hiljattain, kun xAI päivitti "Grok Imagine" -ominaisuutensa, mikä helpotti kuvien tuottamista tekstikehotteista ja integroi työkalun syvemmin X:ään.

Viranomaiset muilla alueilla, mukaan lukien Euroopan unioni, Iso-Britannia, Brasilia ja Intia, ovat myös käynnistäneet tutkimuksia Grokin roolista säädyttömien ja suostumattomien deepfake-laitteiden helpottamisessa.

Yhdysvalloissa jotkut demokraattiset lainsäätäjät ovat kehottaneet sovelluskauppoja keskeyttämään tekoälytyökalun, kunnes tiukemmat turvatoimet ovat käytössä.

xAI-vastaukset ja markkinavaikutukset

Vastareaktion keskellä xAI ilmoitti rajoittavansa kuvien generoinnin ja muokkausominaisuudet maksaville tilaajille pyrkien kaventamaan suoja-aukkoja.

Musk kertoi X:ssä, että laitonta sisältöä luovia käyttäjiä kohtaa seuraamuksia, jotka vastaavat materiaalin suoraa lataamista sosiaalisen median alustalle.

Viranomaiset kuitenkin sanoivat, että nämä toimet eivät menneet tarpeeksi pitkälle.

CNBC raportoi, että yritykset ottaa yhteyttä xAI:hen kommenttia varten vastasivat automaattisesti: "Legacy Media Lies."