يحدد OpenAI المستخدمين الصينيين الذين يستفيدون من ChatGPT لأدوات المراقبة والتنميط

قالت OpenAI إن المستخدمين المشتبه بهم المرتبطين بالحكومة الصينية حاولوا استخدام ChatGPT لتصميم مقترحات ومواد تسويقية لأدوات المراقبة الجماعية ، بما في ذلك أنظمة مراقبة الأويغور ومسح وسائل التواصل الاجتماعي بحثا عن الخطاب السياسي أو الديني.

في تقرير استخبارات التهديدات الذي تم إصداره حديثا بعنوان "تعطيل الاستخدامات الخبيثة لنماذجنا" ، حددت OpenAI حالات متعددة استخدمت فيها الحسابات المرتبطة بالجهات الفاعلة التابعة للدولة أدوات الذكاء الاصطناعي الخاصة بها لأغراض قمعية محتملة.

وقالت الشركة إن المستخدمين استخدموا ChatGPT لصياغة مستندات المشروع وتصحيح التعليمات البرمجية وتحليل البيانات المتعلقة بتتبع تحركات الأفراد وسجلات الشرطة والنشاط عبر الإنترنت.

المستخدمون المرتبطون بكيانات صينية

أحد الأمثلة الأكثر لفتا للانتباه يتعلق بمستخدم ChatGPT "من المحتمل أن يكون مرتبطا بكيان حكومي [Chinese] " طلب من النموذج صياغة اقتراح لما وصف بأنه "نموذج تحذير التدفق الداخلي المرتبط بالأويغور عالي الخطورة".

وفصل الاقتراح خططا لنظام يحلل حجوزات النقل ويقارنها بقواعد بيانات الشرطة لإصدار تنبيهات بشأن حركة الأشخاص المصنفين على أنهم "مرتبطون بالأويغور وذوي مخاطر عالية".

طلب مستخدم آخر ، يكتب باللغة الصينية ، المساعدة في تصميم مواد ترويجية لأداة "تحقيق وسائل التواصل الاجتماعي" يزعم أنها مصممة لعميل حكومي.

وفقا لتقرير OpenAI ، تم وصف الأداة بأنها قادرة على مسح منصات مثل X (Twitter سابقا) و Facebook و Instagram و Reddit و TikTok و YouTube لتحديد "الخطاب المتطرف" أو المحتوى السياسي والعرقي والديني.

وقالت OpenAI إن كلا الحسابين تم حظرهما بمجرد اكتشاف الشركة للنشاط.

وشددت على أنه لا يوجد دليل على أن المستخدمين استخدموا ChatGPT لإجراء مراقبة فعلية أو أن الأدوات قد تم نشرها في النهاية.

لمحة عن استخدام الذكاء الاصطناعي من قبل الجهات الفاعلة الاستبدادية

صاغ التقرير النتائج على أنها "لقطة نادرة" لكيفية بدء الجهات الفاعلة الاستبدادية والخبيثة في دمج الذكاء الاصطناعي التوليدي في عملياتها - ليس بالضرورة لإنشاء أشكال جديدة من الحرب الإلكترونية، ولكن لتحسين القدرات الحالية في تحليل البيانات والدعاية والمراقبة الاجتماعية.

وذكرت الشركة في التقرير: "كما كتبنا في يونيو ، تحرز جمهورية الصين الشعبية تقدما حقيقيا في تطوير نسختها الاستبدادية من الذكاء الاصطناعي".

"إن تعطيلنا لحسابات ChatGPT التي يستخدمها أفراد مرتبطون على ما يبدو بكيانات حكومية صينية يسلط بعض الضوء على الوضع الحالي لاستخدام الذكاء الاصطناعي في هذا الوضع الاستبدادي."

أكدت OpenAI أن النشاط الذي حددته يبدو أنه يتم تنفيذه من قبل مستخدمين فرديين ، وليس عمليات مؤسسية واسعة النطاق.

ومع ذلك ، قالت الشركة إن الحوادث تسلط الضوء على الحاجة إلى استمرار اليقظة حول "الانتهاكات الاستبدادية المحتملة" الذكاء الاصطناعي التوليدي.

تحذير OpenAI الأوسع

قالت OpenAI إنها كشفت عن النتائج علنا لتنبيه صانعي السياسات والباحثين وصناعة التكنولوجيا إلى كيفية إعادة استخدام الذكاء الاصطناعي للمراقبة والقمع.

ودعت الشركة إلى مراقبة استباقية وإجراءات وقائية أكثر صرامة لمنع إساءة الاستخدام المماثلة.

وأشار التقرير إلى أن "النشاط كان متسقا مع المستخدمين الفرديين الذين يستخدمون ChatGPT ، بدلا من التبني المؤسسي على نطاق واسع لنماذجنا".

"على هذا النحو ، فهي لقطة محدودة لاستخدام نماذج الذكاء الاصطناعي المختلفة في هذا السياق."