X este supus unei analize globale în timp ce chatbotul Grok a generat imagini exploatatoare

Platforma de social media a lui Elon Musk, X (cunoscută anterior ca Twitter), se confruntă cu o supraveghere de reglementare tot mai mare în mai multe jurisdicții, după ce chatbot-ul său Grok a fost folosit pentru a crea și distribui imagini sexualizate generate de AI cu copii și femei.

Autoritățile din Europa, India și Malaezia au inițiat investigații, în timp ce oficialii din Brazilia și Marea Britanie și-au exprimat și ei îngrijorări, marcând una dintre cele mai serioase provocări globale de reglementare pentru ambițiile lui Musk în domeniul IA.

Controversa se concentrează pe Grok Imagine, o funcție recent actualizată care permite utilizatorilor să genereze imagini din prompturi textuale direct pe X.

În ultimele săptămâni, instrumentul ar fi fost folosit pentru a produce și distribui imagini intime, neconsensuale (NCII), inclusiv conținut care înfățișează minori.

Multe dintre aceste imagini s-au răspândit pe scară largă pe platformă, determinând intervenția autorităților de reglementare și a susținătorilor siguranței.

Reglementatorii se deplasează în Europa, Asia și America Latină

În Europa, problema a atras critici dure din partea oficialilor.

La o conferință de presă luni, purtătorul de cuvânt al Comisiei Europene, Thomas Regnier, a declarat că autoritatea "analizează foarte serios această chestiune", adăugând că X și Grok oferă un "mod picant" care produce conținut sexual explicit, inclusiv imagini copilăroase.

"Asta nu e 'picant'," a spus Regnier. "Asta e ilegal. Este îngrozitor. E dezgustător."

Agenția de supraveghere media britanică Ofcom a confirmat că a solicitat informații de la X cu privire la problemele Grok.

În India, Ministerul Electronicii și Tehnologiei Informației i-a ordonat lui X la sfârșitul săptămânii trecute să efectueze o "revizuire cuprinzătoare la nivel tehnic, procedural și de guvernanță" a Grok, stabilind un termen limită pentru conformitate pe 5 ianuarie.

Comisia pentru Comunicații și Multimedia din Malaezia a declarat că investighează platforma și va convoca reprezentanți ai companiilor, cerând măsuri de protecție mai stricte, aliniate cu legile locale.

În Brazilia, o membră a parlamentului a declarat că a cerut procurorului public federal și autorității de protecție a datelor din țară să suspende utilizarea lui Grok până la finalizarea unei investigații.

Musk, xAI și dezbaterea privind siguranța

În timp ce experții în siguranță și criticii tehnologici au condamnat proliferarea imaginilor exploatatoare, Musk a părut să batjocorească controversa împărtășind imagini generate de Grok pe X, inclusiv una în care se înfățișează în bikini.

X a emis ulterior primul său răspuns public prin contul oficial Safety, afirmând că ia măsuri împotriva conținutului ilegal, inclusiv a materialelor de abuz sexual asupra copiilor (CSAM), prin eliminări, suspendări de conturi și cooperare cu forțele de ordine.

Musk a avertizat separat că oricine îl determină pe Grok să creeze conținut ilegal va avea aceleași consecințe ca și încărcarea unui astfel de material.

Un angajat xAI a spus că Grok Imagine a fost actualizat, dar nu a specificat dacă modificările au vizat generarea de imagini explicite dăunătoare.

În SUA, Centrul Național pentru Exploatare Sexuală a cerut Departamentului de Justiție și Comisiei Federale pentru Comerț să investigheze.

Deși agențiile federale au refuzat să comenteze, NCOSE a spus că legile existente care interzic crearea și distribuirea CSAM s-ar putea aplica chiar și conținutului creat virtual, în anumite circumstanțe.

Traficul crește în ciuda controversei

În ciuda reacțiilor negative, implicarea utilizatorilor X nu a avut de suferit.

Datele de la Apptopia arată că descărcările zilnice ale Grok au crescut cu 54% din 2 ianuarie, în timp ce descărcările zilnice ale lui X au crescut cu 25% în ultimele trei zile.

Criticii susțin că episodul evidențiază slăbiciunile infrastructurii de încredere și siguranță a X, în special în ceea ce privește conținutul generat de AI.