يواجه X تدقيقا عالميا بعد أن أنتج روبوت الدردشة Grok صورا استغلالية

منصة التواصل الاجتماعي X التابعة لإيلون ماسك (المعروفة سابقا باسم تويتر) تواجه تدقيقا تنظيميا متزايدا في عدة ولايات قضائية بعد استخدام روبوت الدردشة Grok لإنشاء ومشاركة صور جنسية مولدة الذكاء الاصطناعي للأطفال والنساء.

أطلقت السلطات في أوروبا والهند وماليزيا تحقيقات، كما أعرب مسؤولون في البرازيل والمملكة المتحدة عن مخاوفهم، مما يمثل أحد أخطر التحديات التنظيمية العالمية حتى الآن لطموحات ماسك في مجال الذكاء الاصطناعي.

تتركز الجدل حول ميزة Grok Imagine، وهي ميزة تم تحديثها مؤخرا تتيح للمستخدمين إنشاء صور من المحفزات النصية مباشرة على X.

خلال الأسابيع القليلة الماضية، تم استخدام الأداة لإنتاج وتداول صور حميمة غير موافقة (NCII)، بما في ذلك محتوى يصور قصرنا.

انتشرت العديد من هذه الصور على نطاق واسع على المنصة، مما دفع الجهات التنظيمية والمدافعين عن السلامة.

الجهات التنظيمية تتحرك عبر أوروبا وآسيا وأمريكا اللاتينية

في أوروبا، تعرضت القضية لانتقادات حادة من المسؤولين.

في مؤتمر صحفي يوم الاثنين، قال المتحدث باسم المفوضية الأوروبية توماس ريجنير إن الهيئة "تحقق بجدية كبيرة في هذه المسألة"، مضيفا أن X وGrok كانا يقدمان "وضعا حارا" ينتج محتوى جنسي صريح، بما في ذلك صور طفولية.

"هذا ليس 'حار'،" قال ريجنير. "هذا غير قانوني. هذا أمر مروع. هذا مقرف."

أكدت هيئة الرقابة الإعلامية البريطانية Ofcom أنها طلبت معلومات من X بخصوص قضايا غروك.

في الهند، أمرت وزارة الإلكترونيات وتكنولوجيا المعلومات شركة X في أواخر الأسبوع الماضي بإجراء "مراجعة شاملة على المستوى الفني والإجرائي والحوكمة" لجروك، محددة موعدا نهائيا للامتثال في 5 يناير.

قالت لجنة الاتصالات والوسائط المتعددة الماليزية إنها تحقق في المنصة وستستدعي ممثلي الشركات، داعية إلى تعزيز الضمانات تتماشى مع القوانين المحلية.

في البرازيل، قالت عضوة في البرلمان إنها طلبت من المدعي العام الفيدرالي وسلطة حماية البيانات في البلاد تعليق استخدام جروك حتى يكتمل التحقيق.

ماسك، xAI ونقاش السلامة

بينما أدان خبراء السلامة ونقاد التكنولوجيا انتشار الصور الاستغلالية، بدا أن ماسك سخر من الجدل بمشاركة صور مولدة من قبل جروك على منصة X، بما في ذلك صورة تظهر نفسه مرتديا بيكيني.

أصدرت X لاحقا أول رد علني لها عبر حسابها الرسمي في Safety، حيث أعلنت أنها تتخذ إجراءات ضد المحتوى غير القانوني، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، من خلال عمليات الحذف، وتعليق الحسابات، والتعاون مع جهات إنفاذ القانون.

حذر ماسك بشكل منفصل من أن أي شخص يدفع جروك لإنشاء محتوى غير قانوني سيواجه نفس العواقب التي يواجهها رفع مثل هذه المواد.

قال موظف في xAI إن Grok Imagine قد تم تحديثه، لكنه لم يحدد ما إذا كانت التغييرات تعالج توليد الصور الضارة الصريحة.

في الولايات المتحدة، دعا المركز الوطني للاستغلال الجنسي وزارة العدل ولجنة التجارة الفيدرالية إلى التحقيق.

بينما رفضت الوكالات الفيدرالية التعليق، قالت NCOSE إن القوانين الحالية التي تحظر إنشاء وتوزيع CSAM قد تنطبق حتى على المحتوى الذي يتم إنشاؤه افتراضيا في ظروف معينة.

تزداد حركة المرور رغم الجدل

على الرغم من رد الفعل السلبي، لم يتأثر تفاعل مستخدمي X.

تظهر بيانات أبتوبيا أن التنزيلات اليومية للعبة Grok ارتفعت بنسبة 54٪ منذ 2 يناير، بينما ارتفعت التنزيلات اليومية ل X بنسبة 25٪ خلال الأيام الثلاثة الماضية.

يجادل النقاد بأن الحلقة تبرز نقاط الضعف في بنية الثقة والسلامة في X، خاصة فيما يتعلق بالمحتوى الذكاء الاصطناعي المولد.