UE deschide o anchetă asupra X-ului lui Musk privind AI Grok și posibile încălcări ale siguranței copiilor

Uniunea Europeană a deschis o anchetă formală asupra platformei de social media X a lui Elon Musk, din cauza îngrijorărilor că chatbot-ul său de inteligență artificială Grok ar fi putut genera imagini deepfake care "ar putea constitui materiale de abuz sexual asupra copiilor."

Comisia Europeană a declarat că ancheta va evalua dacă X și-a respectat obligațiile conform Legii Serviciilor Digitale (DSA ) a blocului de a identifica, evalua și atenua corect riscurile asociate cu implementarea Grok în cele 27 de state membre ale UE.

Investigația adaugă o supraveghere tot mai mare asupra practicilor de moderare a conținutului ale lui X și ar putea inflama și mai mult tensiunile dintre Bruxelles și Washington.

Accent pe evaluarea riscurilor și atenuare

Potrivit Comisiei, investigația va examina dacă X a abordat adecvat riscurile sistemice legate de implementarea Grok, în special riscul de generare a deepfake-urilor sexuale neconsensuale implicând femei și copii.

Cazul intră sub incidența DSA, regulamentul amplu al UE privind conținutul online, care impune cerințe stricte platformelor mari pentru a preveni răspândirea materialelor ilegale și dăunătoare.

"Deepfake-urile sexuale neconsensuale ale femeilor și copiilor sunt o formă violentă și inacceptabilă de degradare", a declarat comisarul european pentru tehnologie, Henna Virkkunen.

Comisia a declarat că ancheta nu va implica măsuri intermediare în această etapă.

Conform Digital Services Act, care a intrat în vigoare în 2023, UE are puterea de a impune amenzi de până la 6% din cifra de afaceri anuală la nivel mondial a unei companii pentru neatenția la conținutul ilegal, reducerea riscurilor sistemice sau respectarea cerințelor de transparență.

Reacția internațională tot mai mare față de Grok

Investigația UE urmează o condamnare globală tot mai accentuată a lui Grok în ultimele săptămâni.

Utilizatori din mai multe țări au raportat că chatbotul AI a generat imagini sexualizate și le-a postat pe X, declanșând reacții negative din partea autorităților de reglementare și a susținătorilor siguranței copiilor.

În Regatul Unit, autoritatea de reglementare a comunicațiilor Ofcom investighează deja oficial dacă X a încălcat Legea privind Siguranța Online a țării în legătură cu rezultatele Grok.

Autoritățile din Franța și India și-au exprimat, de asemenea, îngrijorarea, acuzând chatbotul că creează ilegal imagini sexualizate ale unor persoane fără consimțământul acestora.

X, care este o subsidiară a companiei de inteligență artificială a lui Musk, xAI, a declarat anterior că elimină conținutul ilegal, inclusiv materialele de abuz sexual asupra copiilor, suspendă conturile infracționale și cooperează cu forțele de ordine atunci când este necesar.

Tensiunile cu Washingtonul planează

Ancheta Grok vine la scurt timp după ce UE a impus o penalizare separată de 120 de milioane de euro (142 milioane de dolari) asupra lui X în baza DSA.

În acel caz anterior, autoritățile UE au concluzionat că sistemul cu bife albastre plătită al X a indus utilizatorii în eroare, că platforma nu a oferit acces adecvat la date cercetătorilor și că nu a înființat corespunzător un depozit de transparență publicitară.

Această amendă a atras critici dure din partea administrației Trump, care a prezentat reglementarea digitală a UE ca un atac la adresa libertății de exprimare și a companiilor americane de tehnologie.

Înaintea pedepsei din decembrie, vicepreședintele american JD Vance a scris pe X că "UE ar trebui să susțină libertatea de exprimare, nu să atace companiile americane pentru gunoi."

Totuși, oficialii europeni au respins constant aceste afirmații, argumentând că DSA este concepută pentru a proteja drepturile și siguranța utilizatorilor, nu pentru a restricționa exprimarea legală.