OpenAI identifică utilizatorii chinezi care folosesc ChatGPT pentru instrumente de monitorizare și profilare

OpenAI a declarat că utilizatorii suspectați de guvernul chinez au încercat să folosească ChatGPT pentru a proiecta propuneri și materiale de marketing pentru instrumente de supraveghere în masă, inclusiv sisteme de monitorizare a uigurilor și de scanare a rețelelor sociale pentru discursuri politice sau religioase.

Într-un raport recent lansat intitulat "Perturbarea utilizărilor rău intenționate ale modelelor noastre", OpenAI a subliniat mai multe cazuri în care conturile legate de actori afiliați statului și-au folosit instrumentele de inteligență artificială în scopuri potențial represive.

Compania a declarat că utilizatorii au folosit ChatGPT pentru a redacta documente de proiect, a depana codul și a analiza datele legate de urmărirea mișcărilor indivizilor, a cazierelor poliției și a activității online.

Utilizatori legați de entități chineze

Unul dintre cele mai izbitoare exemple a implicat un utilizator ChatGPT "probabil conectat la o entitate guvernamentală [Chinese] " care a cerut modelului să elaboreze o propunere pentru ceea ce a fost descris ca un "model de avertizare a fluxului de intrare cu uiguri cu risc ridicat".

Propunerea a detaliat planurile pentru un sistem care să analizeze rezervările de transport și să le compare cu bazele de date ale poliției pentru a emite alerte privind circulația persoanelor clasificate ca "legate de uiguri și cu risc ridicat".

Un alt utilizator, scriind în chineză, a cerut asistență pentru a proiecta materiale promoționale pentru un instrument de "sondare a rețelelor sociale" care se presupune că a fost construit pentru un client guvernamental.

Potrivit raportului OpenAI, instrumentul a fost descris ca fiind capabil să scaneze platforme precum X (fostul Twitter), Facebook, Instagram, Reddit, TikTok și YouTube pentru a identifica "discursul extremist" sau conținutul politic, etnic și religios.

OpenAI a declarat că ambele conturi au fost interzise odată ce compania a detectat activitatea.

Acesta a subliniat că nu există dovezi că utilizatorii au folosit ChatGPT pentru a efectua supraveghere reală sau că instrumentele au fost implementate în cele din urmă.

O privire asupra utilizării AI de către actori autoritari

Raportul a încadrat constatările ca un "instantaneu rar" al modului în care actorii autoritari și rău intenționați încep să încorporeze IA generativă în operațiunile lor – nu neapărat pentru a crea noi forme de război cibernetic, ci pentru a perfecționa capacitățile existente în analiza datelor, propagandă și monitorizare socială.

"După cum am scris în iunie, RPC face progrese reale în avansarea versiunii sale autocratice a AI", a declarat compania în raport.

"Întreruperea conturilor ChatGPT utilizate de persoane aparent legate de entități guvernamentale chineze aruncă o lumină asupra stării actuale a utilizării AI în acest cadru autoritar."

OpenAI a subliniat că activitatea pe care a identificat-o pare să fie desfășurată de utilizatori individuali, nu de operațiuni instituționale la scară largă.

Cu toate acestea, compania a spus că incidentele evidențiază nevoia de vigilență continuă în ceea ce privește "potențialele abuzuri autoritare" ale IA generativă.

Avertismentul mai larg al OpenAI

OpenAI a declarat că a dezvăluit public rezultatele pentru a alerta factorii de decizie politică, cercetătorii și industria tehnologică cu privire la modul în care AI poate fi reutilizată pentru supraveghere și represiune.

Compania a cerut monitorizare proactivă și măsuri de protecție mai stricte pentru a preveni utilizarea abuzivă similară.

"Activitatea a fost în concordanță cu utilizatorii individuali care au folosit ChatGPT, mai degrabă decât cu adoptarea instituțională pe scară largă a modelelor noastre", a notat raportul.

"Ca atare, este un instantaneu limitat al utilizării diferitelor modele AI în acest context."