OpenAI tunnistaa kiinalaiset käyttäjät, jotka hyödyntävät ChatGPT:tä seurantaan ja profilointityökaluihin

OpenAI on sanonut, että epäillyt Kiinan hallitukseen liittyvät käyttäjät yrittivät käyttää ChatGPT:tä suunnitellakseen ehdotuksia ja markkinointimateriaaleja joukkovalvontatyökaluille, mukaan lukien järjestelmät uiguurien valvontaan ja sosiaalisen median skannaamiseen poliittisen tai uskonnollisen puheen varalta.

Äskettäin julkaistussa uhkatiedusteluraportissa nimeltä "Malliemme haitallisen käytön häiritseminen" OpenAI hahmotteli useita tapauksia, joissa valtioon sidoksissa oleviin toimijoihin sidoksissa olevat tilit käyttivät tekoälytyökalujaan mahdollisesti tukahduttaviin tarkoituksiin.

Yhtiö sanoi, että käyttäjät käyttivät ChatGPT:tä projektiasiakirjojen laatimiseen, virheenkorjauskoodin tekemiseen ja yksilöiden liikkeiden, poliisitietojen ja verkkotoiminnan seurantaan liittyvien tietojen analysointiin.

Kiinalaisiin yhteisöihin liittyvät käyttäjät

Yksi silmiinpistävimmistä esimerkeistä koski ChatGPT-käyttäjää, joka "todennäköisesti oli yhteydessä [Chinese] valtion yksikköön", joka pyysi mallia laatimaan ehdotuksen "korkean riskin uiguureihin liittyvästä sisäänvirtausvaroitusmallista".

Ehdotuksessa esitettiin yksityiskohtaiset suunnitelmat järjestelmästä, joka analysoisi kuljetusvarauksia ja vertaisi niitä poliisin tietokantoihin ja antaisi hälytyksiä "uiguureihin liittyviksi ja riskialttiiksi" luokiteltujen ihmisten liikkumisesta.

Toinen käyttäjä, joka kirjoitti kiinaksi, pyysi apua mainosmateriaalien suunnittelussa "sosiaalisen median tutkintatyökalulle", jonka väitetään olevan rakennettu valtion asiakkaalle.

OpenAI:n raportin mukaan työkalun kuvattiin pystyvän skannaamaan alustoja, kuten X (entinen Twitter), Facebook, Instagram, Reddit, TikTok ja YouTube tunnistaakseen "ekstremistisen puheen" tai poliittisen, etnisen ja uskonnollisen sisällön.

OpenAI sanoi, että molemmat tilit kiellettiin, kun yritys havaitsi toiminnan.

Se korosti, että ei ollut todisteita siitä, että käyttäjät olisivat käyttäneet ChatGPT:tä varsinaisen valvonnan suorittamiseen tai että työkalut olisi lopulta otettu käyttöön.

Kurkistus autoritaaristen toimijoiden tekoälyn käyttöön

Raportti muotoili havainnot "harvinaiseksi tilannekuvaksi" siitä, kuinka autoritaariset ja pahantahtoiset toimijat alkavat sisällyttää generatiivista tekoälyä toimintaansa – ei välttämättä luodakseen uusia kybersodankäynnin muotoja, vaan parantaakseen olemassa olevia data-analyysin, propagandan ja sosiaalisen seurannan ominaisuuksia.

"Kuten kirjoitimme kesäkuussa, Kiina edistyy todella tekoälyn autokraattisen versionsa edistämisessä", yhtiö totesi raportissa.

"Kiinan valtion yksiköihin ilmeisesti liittyvien henkilöiden käyttämien ChatGPT-tilien häirintä valaisee tekoälyn käytön nykytilaa tässä autoritaarisessa ympäristössä."

OpenAI korosti, että sen tunnistama toiminta näytti olevan yksittäisten käyttäjien suorittamaa, ei laajamittaista institutionaalista toimintaa.

Yhtiö sanoi kuitenkin, että tapaukset korostavat tarvetta jatkuvaan valppauteen generatiivisen tekoälyn "mahdollisten autoritaaristen väärinkäytösten" suhteen.

OpenAI:n laajempi varoitus

OpenAI sanoi paljastaneensa havainnot julkisesti varoittaakseen päättäjiä, tutkijoita ja teknologiateollisuutta siitä, kuinka tekoälyä voidaan käyttää uudelleen valvontaan ja tukahduttamiseen.

Yhtiö vaati ennakoivaa valvontaa ja tiukempia suojatoimia vastaavien väärinkäytösten estämiseksi.

"Toiminta oli johdonmukaista ChatGPT:tä käyttävien yksittäisten käyttäjien kanssa sen sijaan, että mallimme olisivat ottaneet laajamittaisesti institutionaalisesti käyttöön", raportissa todettiin.

"Sellaisenaan se on rajallinen tilannekuva eri tekoälymallien käytöstä tässä yhteydessä."