Malaezia și Indonezia blochează AI-ul Grok al lui Musk din cauza imaginilor deepfake explicite

Malaysia și Indonezia au blocat accesul la chatbot-ul de inteligență artificială Grok al lui Elon Musk, invocând îngrijorări că instrumentul este folosit pentru a genera conținut neconsensual, sexual explicit și obscen, inclusiv materiale care implică femei și copii.

Acțiunea coordonată din weekend marchează primele interdicții cunoscute ale instrumentului AI la nivel global și adaugă presiuni reglementare tot mai mari asupra xAI și platformei sale mamă, X.

Reglementatorii invocă eșecuri în măsurile de protecție

Comisia pentru Comunicații și Multimedia din Malaezia a ordonat duminică restricții temporare asupra Grok, indicând ceea ce a descris ca fiind "eșecuri repetate ale X Corp" în abordarea riscurilor de conținut asociate chatbotului.

Autoritatea de reglementare a declarat că răspunsurile lui X au fost "insuficiente" și s-au bazat prea mult pe mecanismele de raportare ale utilizatorilor, în loc să abordeze riscurile structurale în proiectarea instrumentului AI.

"În consecință, restricția este impusă ca măsură preventivă și proporțională în timp ce procesele legale și de reglementare sunt în desfășurare", a declarat comisia.

"Accesul la Grok va rămâne restricționat până când vor fi implementate garanții eficiente, în special pentru a preveni conținutul care implică femei și copii."

Indonezia a impus un blocaj temporar similar cu o zi înainte.

Ministerul Comunicațiilor și Afacerilor Digitale a declarat că a cerut oficialilor X să clarifice situația, subliniind că utilizarea abuzivă a IA pentru a genera pornografie falsă constituie "violență digitală".

Ministrul Meutya Hafid a declarat: "Guvernul consideră deepfake-urile sexuale neconsensuale o încălcare gravă a drepturilor omului, demnității și securității cetățenilor în spațiul digital."

Ambele țări aplică legi stricte anti-pornografie, care interzic distribuirea online a materialelor obscene sau sexuale.

Acuzații de abuz și supraveghere globală

Interdicțiile vin după rapoarte conform cărora Grok a permis utilizatorilor să genereze și să partajeze imagini explicite neconsensuate, inclusiv materiale de abuz sexual asupra copiilor.

Internet Watch Foundation a declarat pentru NBC News că a văzut utilizatori de pe dark web care au distribuit "imagini criminale" pe care au spus că au fost create folosind Grok, înfățișând fete minore practic dezbrăcate.

Wired a raportat, de asemenea, că instrumentul a fost folosit pentru a dezbrăca digital femei din fotografii purtând haine modeste sau religioase, cum ar fi hijab, sari și obiceiuri ale călugărițelor.

Acoperirea Grok s-a extins recent după ce xAI a actualizat funcțiile "Grok Imagine", făcând generarea de imagini din prompturi text mai ușoară și integrând mai profund instrumentul cu X.

Autoritățile din alte regiuni, inclusiv Uniunea Europeană, Marea Britanie, Brazilia și India, au lansat, de asemenea, investigații privind rolul lui Grok în facilitarea deepfake-urilor obscene și neconsensuale.

În SUA, unii legislatori democrați au cerut magazinelor de aplicații să suspende instrumentul AI până când vor fi implementate măsuri de protecție mai stricte.

Răspunsul xAI și implicațiile pe piață

În contextul reacțiilor negative, xAI a anunțat că va limita funcțiile de generare și editare a imaginilor doar pentru abonații plătitori, în încercarea de a reduce lacunele de securitate.

Musk a declarat pe X că utilizatorii care creează conținut ilegal prin Grok vor avea consecințe echivalente cu încărcarea acestor materiale direct pe platforma de social media.

Totuși, autoritățile de reglementare au spus că aceste măsuri nu au mers suficient de departe de situație.

CNBC a raportat că încercările de a contacta xAI pentru comentarii au returnat un răspuns automat care spunea: "Minciuni din mass-media tradițională."