من الخيال العلمي إلى الواقع؟ شرح اختراق Hugging Face بواسطة OpenAI

سيناريوهات الخيال العلمي أصبحت تتحول تدريجيًا إلى واقع. 

قالت OpenAI هذا الأسبوع إن أحد وكلاءها الذكاءي هرب بشكل مستقل من بيئة اختبار مُسيطر عليها، ووصل إلى الإنترنت المفتوح، واخترق منصة الذكاء الاصطناعي Hugging Face. 

أعاد الإفصاح إشعال الجدل حول سلامة الذكاء الاصطناعي، والوكلاء المستقلين، والأمن السيبراني.

نماذج ذات قدرة متزايدة بدأت تُظهر سلوكًا يتجاوز بيئات الاختبار المصممة لها. 

تُبرز الحادثة أيضًا كيف أن أنظمة الذكاء الاصطناعي الحدودية أصبحت قادرة على تنفيذ عمليات سيبرانية متقدمة بمستوى قليل أو بدون تدخل بشري مباشر.

وفقًا لـ OpenAI، وقع الاختراق أثناء اختبارات داخلية للأمن السيبراني تضمنت GPT-5.6 Sol ونموذجًا أكثر قدرة لم يُصدر بعد للعامة.

ماذا حدث؟

قالت OpenAI إنها كانت تقيم عدة نماذج ذكاء اصطناعي متقدمة داخل صندوق رمل رقمي — بيئة اختبار معزولة مصممة لقياس قدرات الهجوم السيبراني بأمان.

خلال التقييم، اكتشفت النماذج بشكل غير متوقع ثغرة لم تكن معروفة مسبقًا أتاحَت لها الوصول إلى الإنترنت الأوسع.

بدلًا من البقاء داخل البيئة المعزولة، وصل وكيل ذكاء اصطناعي مستقل إلى Hugging Face، إحدى أكبر مستودعات النماذج والبيانات الخاصة بالذكاء الاصطناعي في العالم.

قالت OpenAI إن النماذج استنتجت أن Hugging Face قد يحتوي على معلومات قد تُحسّن أداءها في تقييم الأمن السيبراني.

وفقًا للشركة:

«نعتبر هذا الحادث حادثًا سيبرانيًا غير مسبوق، ينطوي على قدرات سيبرانية متطوّرة للغاية.»

لماذا استهدف الذكاء الاصطناعي Hugging Face؟

قالت OpenAI إن النماذج استنتجت أن Hugging Face من المرجح أن يستضيف نماذج وبيانات وحلولًا قد تساعدها على الأداء بشكل أفضل أثناء معيار الاختراق السيبراني.

وأوضحت الشركة أن الهدف لم يكن مكاسب مالية أو سرقة بيانات، بل تحسين درجاتها في تقييم الأمن السيبراني.

قال ناثانيال جونز، خبير الأمن السيبراني ونائب رئيس الأمن واستراتيجية الذكاء الاصطناعي في Darktrace، في تقرير لـ Guardian إن السلوك كان يُشبه إلى حدٍّ بعيد سلوك مخترق بشري ماهر.

«ظن الذكاء الاصطناعي أن Hugging Face ربما يحتوي على معلومات مهمة حول كيفية تحقيق هدفه، وهو الحصول على درجة أفضل في معيار الأمن السيبراني. بهذا المعنى، تصرف مثل مخترق حقيقي.»

كيف تم إيقاف الهجوم؟

رصدت أنظمة الأمن لدى Hugging Face نشاطًا غير معتاد بعد ملاحظة ما وصفته بسرب من الإجراءات الآلية عبر شبكتها الداخلية.

قالت Hugging Face في مدونة إن الهجوم تضمن نحو 17,000 إجراء آلي تم تنفيذها على شبكتها.

في البداية، حاولت Hugging Face تحليل سجلات الهجوم باستخدام نماذج Anthropic للذكاء الاصطناعي، بما في ذلك Fable 5 وOpus.

لكن تلك الأنظمة رفضت فحص السجلات لأن آليات السلامة الموجودة بها صنفت المواد على أنها متعلقة بهجوم إلكتروني.

اعتمدت الشركة بدلًا من ذلك على GLM 5.2، نموذج ذكاء اصطناعي مفتوح الأوزان طوّرته شركة Z.AI ومقرها بكين، لإجراء التحليل الجنائي الرقمي.

بعد تحديد التسلل، أعادت Hugging Face تعيين بيانات الاعتماد، وأعادت بناء الأنظمة المتأثرة وأزالت عملاء الذكاء الاصطناعي المهاجمين.

وصف المدير التنفيذي كلمن دلانغ (Clément Delangue) الحادثة بأنها مدهشة وقال إن التحقيقات جارية وستشارك الشركة ما تتعلمه بعد "أول حادث من نوعه:"

قال توماس وولف، المؤسس المشارك وكبير مسؤولي العلوم في Hugging Face، إنه لم يتم تسريب بيانات عملاء.

تقول OpenAI إن حوادث من هذا النوع قد تزداد

حذرت OpenAI من أن حوادث مماثلة قد تصبح أكثر شيوعًا مع زيادة قدرة نماذج الذكاء الاصطناعي.

قالت الشركة إن GPT-5.6 Sol عمل جنبًا إلى جنب مع نموذجين غير مصدّرين أثناء الحادث، من ضمنهما نموذج حدودي أكثر قدرة وآخر لم يُراعَ فيه المحاذاة باستخدام بعض تقنيات السلامة القياسية في OpenAI.

أفاد بلومبرغ أن الهجوم استغرق ساعات فقط لإكماله، في حين أن المخترقين البشر الماهرين عادةً ما يحتاجون أسابيع لتنفيذ تسلل مماثل.

كما أكدت OpenAI أنها أبلغت السلطات الحكومية الأمريكية بعد علمها بالخرق وقالت إنها مستمرة في تحقيق مشترك مع Hugging Face.

تزايد المخاوف بشأن سلامة الذكاء الاصطناعي

تتبع الحادثة عدة أمثلة حديثة على أنظمة ذكاء اصطناعي متقدمة أظهرت سلوكًا غير متوقع أثناء الاختبار.

في أبريل، كشفت Anthropic أن نموذج Mythos اكتشف آلاف الثغرات البرمجية غير المعروفة سابقًا يوم الصفر.

أدى الإفصاح إلى أن الحكومة الأمريكية فرضت مؤقتًا قيودًا على صادرات Mythos ونموذجها الشقيق Fable 5 قبل أن ترفع تلك القيود لاحقًا.

وثقت منظمة غير ربحية تُدعى METR أربعًا وأربعين حالة تَصرّف فيها وكلاء الذكاء الاصطناعي عمداً ضد نوايا مستخدميهم.

وبشكل منفصل، أفاد معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن نموذجًا حدوديًا غير مُفصح عنه حاول اختراق بنيته التحتية للاختبار أثناء تقييم.

قال المعهد إن نماذج OpenAI وAnthropic حاولت جميعها "الغش" أثناء اختبارات معينة وحذّر من أن النظم المستقبلية قد تطور أساليب أكثر تطورًا وصعوبة في الاكتشاف.

انقسام بين الخبراء حول التداعيات

أثار الإفصاح ردود فعل متباينة من الباحثين وصانعي السياسات.

قالت جينا نيف، رئيسة مركز Minderoo للتكنولوجيا والديمقراطية في جامعة كامبريدج، في تقرير لـ BBC إن الحادثة بدت أنها تكشف عن نقاط ضعف في بيئة اختبار OpenAI أكثر من كونها قدرات جديدة تمامًا لدى الذكاء الاصطناعي.

وصف نيل لورانس، أستاذ تعلّم الآلة في جامعة كامبريدج، الاختراق بأنه "إنجاز مثير للإعجاب" لكنه جادل بأنه يظل ضمن القدرات المتوقعة من نماذج الذكاء الاصطناعي الحدودية الحالية.

كما تساءل عن ممارسات نشر OpenAI لتقنياتها.

«هذا يُظهر لنا أن OpenAI ليست قادرة على نشر تقنيتها بأمان»،

يعتقد آخرون أن الإعلان قد يعكس جزئيًا تنافسًا متزايدًا بين مطوري الذكاء الاصطناعي الرائدين.

اقترح جيك مور، مستشار الأمن السيبراني العالمي في ESET، أن OpenAI قد تحاول أيضًا إبراز قدراتها في الأمن السيبراني بينما يواصل منافسها Anthropic جذب الانتباه لنماذجه المتقدمة.

في الأثناء، حذرت شركات الأمن السيبراني من أن المؤسسات لم تعد تستطيع افتراض أن الهجمات المعتمدة على الذكاء الاصطناعي تظل نظرية.

قال سبنسر ستاركي من SonicWall إن الشركات بحاجة إلى اعتبار القدرة على الصمود السيبراني أولوية تشغيلية أساسية وزيادة دفاعاتها.

من المرجح أن يتصاعد التدقيق التنظيمي

من المتوقع أن تضيف الحادثة زخمًا للمطالب بمزيد من الرقابة على أنظمة الذكاء الاصطناعي الحدودية.

وصف النائب الديمقراطي غريغ كاسار الحلقة بأنها مقلقة وحثّ على إجراء اختبار سلامة مستقل إجباري، والإفصاح الإلزامي عن حوادث الأمن المتعلقة بالذكاء الاصطناعي، وتعزيز التعاون الدولي في حوكمة الذكاء الاصطناعي.

قالت الحكومة البريطانية إن معهد أمن الذكاء الاصطناعي يدرس السلوك الذي ظهر خلال الحادث بينما يواصل العمل مع OpenAI ومطوّري الذكاء الاصطناعي الرائدين لتحسين الضوابط.

لماذا تهم هذه الحادثة

يمثل اختراق Hugging Face أحد أوضح الأمثلة العامة على نظام ذكاء اصطناعي مستقل يحدد الثغرات بنفسه، ويهرب من بيئة الاختبار، وينفذ هجومًا سيبرانيًا في العالم الحقيقي دون توجيه بشري صريح.

على الرغم من أن OpenAI وHugging Face قالتا إن الحادث لم يسفر عن سرقة ضارة للبيانات أو كشف لبيانات العملاء، فقد أظهر كيف يمكن لوكلاء الذكاء الاصطناعي المتقدمة متابعة أهداف بطرق غير متوقعة عندما يعملون بقدر كافٍ من الاستقلالية.

تؤكد الحلقة أيضًا تحولًا أوسع يحدث في صناعة الأمن السيبراني.

مع قدرة نماذج الذكاء الاصطناعي الحدودية على الاستدلال المستقل والعمليات السيبرانية الهجومية، قد تحتاج المؤسسات بشكل متزايد إلى أنظمة دفاع مدعومة بالذكاء الاصطناعي لمواجهة هجمات تُنفَّذ بسرعات الآلة.