OpenAI, izleme ve profil oluşturma araçları için ChatGPT'den yararlanan Çinli kullanıcıları tespit ediyor

OpenAI, Çin hükümetiyle bağlantılı olduğundan şüphelenilen kullanıcıların, Uygurları izlemeye ve sosyal medyayı siyasi veya dini konuşmalara karşı taramaya yönelik sistemler de dahil olmak üzere kitlesel gözetim araçlarına yönelik teklifler ve pazarlama materyalleri tasarlamak için ChatGPT'yi kullanmaya çalıştığını söyledi.

OpenAI, "Modellerimizin Kötü Amaçlı Kullanımlarını Bozmak" başlıklı yeni yayınlanan bir tehdit istihbaratı raporunda , devlete bağlı aktörlerle bağlantılı hesapların yapay zeka araçlarını potansiyel olarak baskıcı amaçlarla kullandığı çok sayıda vakayı özetledi.

Şirket, kullanıcıların proje belgelerinin taslağını hazırlamak, kodda hata ayıklamak ve bireylerin hareketlerini, polis kayıtlarını ve çevrimiçi etkinliklerini izlemeyle ilgili verileri analiz etmek için ChatGPT'yi kullandığını söyledi.

Çinli kuruluşlara bağlı kullanıcılar

En çarpıcı örneklerden biri, modelden "Yüksek Riskli Uygurlarla İlgili Giriş Uyarı Modeli" olarak tanımlanan şey için bir teklif taslağı hazırlamasını isteyen "muhtemelen [Chinese] bir devlet kuruluşuna bağlı" bir ChatGPT kullanıcısıydı.

Teklif, ulaşım rezervasyonlarını analiz edecek ve bunları polis veri tabanlarıyla karşılaştırarak "Uygurlarla ilgili ve yüksek riskli" olarak sınıflandırılan kişilerin hareketlerine ilişkin uyarılar yayınlayacak bir sistemin planlarını ayrıntılı olarak açıkladı.

Çince yazan başka bir kullanıcı, bir hükümet müşterisi için oluşturulduğu iddia edilen bir "sosyal medya araştırması" aracı için tanıtım malzemeleri tasarlama konusunda yardım istedi.

OpenAI'nin raporuna göre aracın, "aşırılık yanlısı söylemi" veya siyasi, etnik ve dini içeriği tespit etmek için X (eski adıyla Twitter), Facebook, Instagram, Reddit, TikTok ve YouTube gibi platformları tarayabildiği belirtildi.

OpenAI, şirketin etkinliği tespit etmesi üzerine her iki hesabın da yasaklandığını söyledi.

Kullanıcıların gerçek gözetim gerçekleştirmek için ChatGPT'yi kullandıklarına veya araçların nihai olarak konuşlandırıldığına dair hiçbir kanıt bulunmadığını vurguladı.

Otoriter aktörlerin yapay zeka kullanımına bir bakış

Rapor, bulguları, otoriter ve kötü niyetli aktörlerin üretken yapay zekayı operasyonlarına nasıl dahil etmeye başladıklarının "nadir bir anlık görüntüsü" olarak çerçeveledi - mutlaka yeni siber savaş biçimleri yaratmak için değil, veri analizi, propaganda ve sosyal izlemedeki mevcut yetenekleri iyileştirmek için.

Şirket raporda, "Haziran ayında yazdığımız gibi, ÇHC yapay zekanın otokratik versiyonunu ilerletme konusunda gerçek ilerleme kaydediyor" dedi.

"Görünüşe göre Çin devlet kurumlarıyla bağlantılı kişiler tarafından kullanılan ChatGPT hesaplarını kesintiye uğratmamız, bu otoriter ortamda yapay zeka kullanımının mevcut durumuna biraz ışık tutuyor."

OpenAI, tespit ettiği faaliyetin büyük ölçekli kurumsal operasyonlar değil, bireysel kullanıcılar tarafından gerçekleştiriliyor gibi göründüğünü vurguladı.

Ancak şirket, olayların üretken yapay zekanın "potansiyel otoriter suiistimalleri" konusunda sürekli dikkatli olunması gerektiğini vurguladığını söyledi.

OpenAI'nin daha geniş uyarısı

OpenAI, politika yapıcıları, araştırmacıları ve teknoloji endüstrisini yapay zekanın gözetim ve baskı için nasıl yeniden kullanılabileceği konusunda uyarmak amacıyla bulguları kamuya açıkladığını söyledi.

Şirket, benzer kötüye kullanımları önlemek için proaktif izleme ve daha sıkı önlemler alınması çağrısında bulundu.

Raporda, "Faaliyet, modellerimizin büyük ölçekli, kurumsal olarak benimsenmesinden ziyade ChatGPT'yi kullanan bireysel kullanıcılarla tutarlıydı" denildi.

"Bu nedenle, bu bağlamda farklı yapay zeka modellerinin kullanımının sınırlı bir anlık görüntüsüdür."