تقوم هيئة تنظيم بريطانية بالتحقيق في X بشأن صور Grok الذكاء الاصطناعي الضارة بموجب قانون السلامة على الإنترنت

أطلقت هيئة تنظيم الاتصالات البريطانية، أوفكوم، تحقيقا رسميا في قضية X، مما صعد التدقيق التنظيمي لأدوات الذكاء الاصطناعي المدمجة في منصات التواصل الاجتماعي الكبرى.

يركز التحقيق على ما إذا كانت X قد وفت بالتزاماتها القانونية بموجب قانون السلامة على الإنترنت، بعد القلق الواسع بشأن كيفية استخدام روبوت الدردشة الذكاء الاصطناعي الخاص بها، Grok، لإنتاج محتوى غير قانوني وضار.

تضع هذه الخطوة المملكة المتحدة ضمن قائمة متزايدة من الحكومات التي تتساءل عما إذا كانت الضمانات الحالية الذكاء الاصطناعي كافية عندما تصبح أدوات توليد الصور والنصوص متاحة على نطاق واسع عبر الإنترنت.

أوف كوم تطلق تحقيقا رسميا

قالت أوفكوم يوم الاثنين إنها فتحت تحقيقا في شركة X، وهي شركة تابعة ل xAI، لتقييم احتمال حدوث إخفاقات في الامتثال لقانون السلامة على الإنترنت.

يتطلب التشريع من المنصات اتخاذ خطوات لحماية المستخدمين من المحتوى غير القانوني وتقليل المخاطر المرتبطة بالتقنيات الناشئة.

تمتلك أوفكوم السلطة لفرض غرامات أو حظر الخدمات إذا تم تأكيد الاختراقات.

سيقوم المنظم الآن بتحليل الأدلة المقدمة من الشركة قبل اتخاذ قرار مؤقت.

إذا قررت أوفكوم أن القانون قد تم خرقه، يمكنها فرض غرامة على X تصل إلى 10٪ من إيراداتها العالمية أو 18 مليون جنيه إسترليني، أيهما أعلى.

جروك تحت الأضواء التنظيمية

يركز التحقيق على أداة جروك، وهي أداة الذكاء الاصطناعي بضمانات أقل من العديد من روبوتات الدردشة السائدة.

يمكن للمستخدمين التفاعل مع Grok مباشرة على X عن طريق وضع علامة على روبوت الدردشة في المنشورات، مما يدفعه لتوليد نصوص وصور تظهر علنا على المنصة.

أثار المنظمون والمشرعون مخاوف بعد أن أنشأ المستخدمون كميات كبيرة من الصور غير الموافقة وغير القانونية، بما في ذلك مواد تتعلق بالأطفال والنساء.

يحظر القانون البريطاني حيازة أو مشاركة الصور الجنسية للأطفال وتوزيع الصور الحميمة دون موافقة، بما في ذلك المحتوى الذي يتم إنتاجه باستخدام أدوات الذكاء الاصطناعي.

تنطبق هذه المعايير القانونية بغض النظر عما إذا كانت الصور صناعية أو معدلة رقميا.

استجابة المنصة والقيود

بعد أن أساء المستخدمون استخدام قدرات توليد الصور في Grok مرارا، قيدت xAI الميزة على المستخدمين المدفوعين على X.

ومع ذلك، بقيت نفس الوظيفة مجانية على تطبيق Grok المستقل.

حذر إيلون ماسك هذا الشهر من أن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس عواقب رفع مواد غير قانونية.

قالت xAI إنها تزيل المنشورات التي تنتهك القانون، بما في ذلك مواد الاعتداء الجنسي على الأطفال، وتعلق الحسابات التي تثبت أنها انتهاكة.

أشارت الحكومة البريطانية إلى أن هذه الخطوات قد تكون غير كافية. قال وزير الأعمال بيتر كايل إن الوزراء سيفكرون في حظر X إذا لزم الأمر، مع التأكيد على أن العملية التنظيمية يجب أن تمر بمجراه.

تزايد الضغط الدولي

امتدت المخاوف بشأن جروك إلى ما هو أبعد من المملكة المتحدة.

قامت إندونيسيا وماليزيا بحظر الأداة مؤقتا خلال عطلة نهاية الأسبوع، مشيرة إلى مخاطر مرتبطة بالمحتوى غير القانوني.

قالت مؤسسة مراقبة الإنترنت، التي كلفتها الحكومة البريطانية بالمساعدة في تحديد مواد الاعتداء الجنسي على الأطفال، إنها عثرت على صور إجرامية للأطفال على الويب المظلم يزعم أنها أنشأتها شركة جروك.

على المستوى الأوروبي، أمرت المفوضية الأوروبية X بالاحتفاظ بالوثائق الداخلية المتعلقة بغروك حتى نهاية العام.

اتهمت السلطات الفرنسية الأداة بإنتاج محتوى غير قانوني بوضوح دون موافقة، مما يشير إلى انتهاكات محتملة لقانون الخدمات الرقمية في الاتحاد الأوروبي.

يتطلب التنظيم من المنصات الإلكترونية الكبيرة تقليل المخاطر المرتبطة بانتشار المواد غير القانونية، بما في ذلك المحتوى المنتج باستخدام الذكاء الاصطناعي.

مع تركيز الجهات التنظيمية عبر عدة ولايات قضائية على الخدمات المدعومة بالذكاء الذكاء الاصطناعي، من المتوقع أن تختبر التحقيقات البريطانية في X كيف تنطبق قوانين السلامة الإلكترونية القائمة على التقنيات التوليدية المتطورة بسرعة.