ماليزيا وإندونيسيا تحظران الذكاء الاصطناعي لماسك من Grok بسبب صور مزيفة صريحة

قامت ماليزيا وإندونيسيا بحظر الوصول إلى روبوت الدردشة الذكي الاصطناعي Grok الخاص بإيلون ماسك، مشيرين إلى مخاوف من استخدام الأداة لإنتاج محتوى غير موافق عليه، صريح جنسيا، وفحش، بما في ذلك مواد تتعلق بالنساء والأطفال.

يمثل هذا الإجراء المنسق خلال عطلة نهاية الأسبوع أول حظر معروف لأداة الذكاء الاصطناعي على مستوى العالم، ويزيد من الضغط التنظيمي المتزايد على xAI ومنصته الأم X.

يشير المنظمون إلى إخفاقات في الضمانات

أمرت لجنة الاتصالات والوسائط المتعددة الماليزية بقيود مؤقتة على جروك يوم الأحد، مشيرة إلى ما وصفته ب "إخفاقات متكررة من شركة إكس" في معالجة مخاطر المحتوى المرتبطة بروبوت الدردشة.

قالت الجهة التنظيمية إن ردود X كانت "غير كافية" واعتمدت بشكل مفرط على آليات تقارير المستخدمين بدلا من معالجة المخاطر الهيكلية في تصميم أداة الذكاء الاصطناعي.

"وبناء عليه، يفرض القيد كإجراء وقائي ومتناسب بينما تستمر العمليات القانونية والتنظيمية"، قالت اللجنة.

"سيظل الوصول إلى Grok مقيدا حتى يتم تنفيذ ضمانات فعالة، خاصة لمنع المحتوى الذي يشمل النساء والأطفال."

فرضت إندونيسيا حجزا مؤقتا مماثلا قبل يوم واحد.

قالت وزارة الاتصالات والشؤون الرقمية إنها طلبت من مسؤولي X توضيح الأمر، مؤكدة أن سوء استخدام الذكاء الاصطناعي لإنتاج مواد إباحية مزيفة يعد "عنفا رقميا".

قالت الوزيرة ميوتيا حافظ: "ترى الحكومة أن التزييف الجنسي غير الموافق انتهاك خطير لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي."

كلا البلدين تطبقان قوانين صارمة لمكافحة الإباحية، تحظر التوزيع الإلكتروني للمواد الفاحشة أو الجنسية.

ادعاءات سوء الاستخدام والتدقيق العالمي

تأتي الحظر بعد تقارير تفيد بأن Grok سمح للمستخدمين بإنشاء ومشاركة صور صريحة غير بموافقة، بما في ذلك مواد عن الاعتداء الجنسي على الأطفال.

قالت مؤسسة مراقبة الإنترنت إن إن بي سي نيوز رأت مستخدمين لشبكة مظلمة يشاركون "صورا إجرامية" قالوا إنها أنشئت باستخدام جروك، تصور فتيات قاصرات شبه عاريات.

كما ذكرت وايرد أن الأداة استخدمت لتعري النساء رقميا في الصور وهن يرتدين ملابس محتشمة أو دينية مثل الحجاب والساري وعادات الراهبات.

توسع نطاق Grok مؤخرا بعد أن قامت xAI بتحديث ميزات "Grok Imagine"، مما جعل توليد الصور من الرسائل النصية أسهل ودمج الأداة بشكل أعمق مع X.

كما أطلقت السلطات في مناطق أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند، تحقيقات في دور جروك في تسهيل التزييف العميق الفاحش وغير الموافق.

في الولايات المتحدة، حث بعض المشرعين الديمقراطيين متاجر التطبيقات على تعليق أداة الذكاء الاصطناعي حتى يتم وضع ضمانات أقوى.

استجابة xAI وتداعياتها في السوق

وسط رد الفعل العني، قالت xAI إنها ستقيد ميزات توليد الصور وتحرير الاشتراكيين المدفوعين في محاولة لسد الفجوات الوقائية.

قال ماسك في قناة X إن المستخدمين الذين ينشئون محتوى غير قانوني عبر Grok سيواجهون عواقب تعادل رفع مثل هذه المواد مباشرة إلى منصة التواصل الاجتماعي.

ومع ذلك، قال المنظمون إن هذه الخطوات لم تكن كافية.

ذكرت CNBC أن محاولات التواصل مع xAI للتعليق أعادت ردا تلقائيا: "الإعلام القديم يكذب."