Autoritatea de reglementare din Marea Britanie investighează X cu privire la imaginile dăunătoare ale Grok AI conform legii siguranței online

Autoritatea britanică de reglementare a comunicațiilor, Ofcom, a lansat o investigație formală asupra X, intensificând supravegherea reglementărilor asupra instrumentelor de inteligență artificială integrate în principalele platforme de social media.

Ancheta se concentrează pe întrebarea dacă X și-a îndeplinit obligațiile legale prevăzute de Legea privind Siguranța Online, în urma îngrijorărilor larg răspândite legate de modul în care chatbotul său AI, Grok, a fost folosit pentru a genera conținut ilegal și dăunător.

Această mișcare plasează Regatul Unit printre o listă tot mai mare de guverne care pun la îndoială dacă garanțiile actuale ale IA sunt suficiente atunci când instrumentele de generare a imaginilor și textului devin accesibile pe scară largă online.

Ofcom lansează o investigație formală

Ofcom a anunțat luni că a deschis o investigație asupra X, o subsidiară a xAI, pentru a evalua eventualele nerespectări ale Legii privind Siguranța Online.

Legislația impune platformelor să ia măsuri pentru a proteja utilizatorii de conținutul ilegal și pentru a reduce riscurile asociate tehnologiilor emergente.

Ofcom are autoritatea de a aplica amenzi sau de a bloca serviciile dacă se confirmă încălcări.

Regulatorul va analiza acum dovezile furnizate de companie înainte de a lua o decizie provizorie.

Dacă Ofcom stabilește că legea a fost încălcată, ar putea impune o penalitate asupra lui X de până la 10% din veniturile globale sau 18 milioane de lire sterline, oricare este suma mai mare.

Grok sub lumina reglementărilor

Investigația se concentrează pe Grok, un instrument AI cu mai puține măsuri de protecție decât mulți chatbot-uri mainstream.

Utilizatorii pot interacționa direct cu Grok pe X etichetând chatbotul în postări, ceea ce îl determină să genereze text și imagini care apar public pe platformă.

Reglementatorii și legiuitorii și-au exprimat îngrijorarea după ce utilizatorii au creat volume mari de imagini neconsensuale și ilegale, inclusiv materiale care implică copii și femei.

Legea din Marea Britanie interzice deținerea sau distribuirea de imagini sexuale cu copii și distribuirea de imagini intime fără consimțământ, inclusiv conținutul generat folosind instrumente AI.

Aceste standarde legale se aplică indiferent dacă imaginile sunt sintetice sau modificate digital.

Răspunsul platformei și restricțiile

După ce utilizatorii au folosit în mod repetat greșit capabilitățile de generare a imaginilor ale Grok, xAI a restricționat această funcție la utilizatorii plătiți pe X.

Aceeași funcționalitate, însă, a rămas gratuită în aplicația standalone Grok.

Elon Musk a avertizat luna aceasta că oricine folosește Grok pentru a crea conținut ilegal va avea aceleași consecințe ca încărcarea de materiale ilegale.

xAI a declarat că elimină postările care încalcă legea, inclusiv materiale de abuz sexual asupra copiilor, și suspendă conturile găsite ca fiind în încălcare.

Guvernul Regatului Unit a indicat că aceste măsuri ar putea fi insuficiente. Secretarul pentru Afaceri, Peter Kyle, a spus că miniștrii ar lua în considerare interzicerea X dacă este necesar, subliniind totodată că procesul de reglementare trebuie să-și urmeze cursul.

Presiunea internațională în creștere

Îngrijorările legate de Grok s-au extins dincolo de Marea Britanie.

Indonezia și Malaezia au blocat temporar instrumentul în weekend, invocând riscuri legate de conținut ilegal.

Internet Watch Foundation, desemnată de guvernul britanic pentru a ajuta la identificarea materialelor de abuz sexual asupra copiilor, a declarat că a găsit imagini criminale cu copii pe dark web, care ar fi fost generate de Grok.

La nivel european, Comisia Europeană a ordonat lui X să păstreze documentele interne legate de Grok până la sfârșitul anului.

Autoritățile franceze au acuzat instrumentul că generează conținut clar ilegal fără consimțământ, semnalând potențiale încălcări ale Legii Serviciilor Digitale a UE.

Reglementarea impune marilor platforme online să atenueze riscurile asociate cu răspândirea materialelor ilegale, inclusiv a conținutului produs folosind AI.

Pe măsură ce autoritățile de reglementare din mai multe jurisdicții își intensifică atenția asupra serviciilor bazate pe inteligență artificială, ancheta britanică privind X este așteptată să testeze modul în care legile existente privind siguranța online se aplică tehnologiilor generative în continuă evoluție.