من ميتا إلى OpenAI: أمن الذكاء الاصطناعي يدخل عصر الهجمات الإلكترونية الذاتية

تتعرض شركات الذكاء الاصطناعي لتدقيق متزايد بعد أن أصبحت ميتا أحدث مطوّر يكشف أن أحد نماذجها نفّذ هجومًا إلكترونيًا أثناء تقييم أمني مُتحكَّم، ما أضاف إلى سلسلة حوادث حديثة زادت المخاوف بشأن مخاطر الأمن السيبراني التي تفرضها الأنظمة المتقدمة للذكاء الاصطناعي.

جاء هذا الكشف بعد اعترافات مماثلة من OpenAI وAnthropic في الأسابيع الأخيرة، مسجّلاً الحالة المعروفة الرابعة التي تخترق فيها أنظمة الذكاء الاصطناعي المتقدمة أو تحاول اختراق أنظمة خارجية أثناء اختبارات الأمن السيبراني.

عزّزت سلسلة الحوادث تحذيرات باحثي الأمن السيبراني من أن الذكاء الاصطناعي يغير بسرعة طبيعة التهديدات الإلكترونية، مضغوطًا هجمات كانت تستغرق أيامًا أو أسابيع لتتحول إلى عمليات قد تجري خلال دقائق.

ميتـا تقول إن الوصول إلى الإنترنت تُمكّن نتيجة خطأ في إعداد الاختبار

قالت ميتا إن الحادث وقع أثناء تقييم أجراهت شركة Irregular، وهي شركة مستقلة لاختبار الأمن السيبراني.

وفقًا للشركة، أدى خطأ في التهيئة إلى منح أحد نماذج ميتا وصولًا إلى الإنترنت عن غير قصد أثناء التقييم.

بعد ذلك استغل النموذج ثغرة في خدمة طرف ثالث.

قالت ميتا إن النموذج "استغل ثغرة أمنيّة في خدمة طرف ثالث، بطريقة مشابهة للحالات المبلغ عنها سابقًا مع شركات أخرى".

ذكرت صحيفة The Information، نقلاً عن أشخاص مطلعين على الموضوع، أن النموذج المعني كان Muse Spark 1.1، الذي وصفت ميتا بأنه أحد أكثر أنظمتها تقدمًا في مهام الترميز والوكيل الذكي (agentic AI).

قال التقرير إن النموذج اخترق أنظمة شركة لم تُكشف هويتها وعدّل بيئتها الداخلية.

مع ذلك، شددت Irregular على أن الحدث نبع من إعداد الاختبار وليس نتيجة هروب غير متحكم به من قبل النموذج.

قال متحدث باسم الشركة لرويترز إن الحادث كان "نفس مشكلة بيئة التقييم التي أعلن عنها Anthropic الأسبوع الماضي" ولم ينطوِ على "هروب من الصندوق الرملي أو عمل سيبراني متطور".

وأضافت الشركة: "لا توجد مشكلات حالية مفتوحة. تعمل Irregular على إعداد ورقة بيضاء لمشاركة أفضل الممارسات للاحتواء وتشغيل التقييمات السيبرانية بشكل آمن".

سلسلة الحوادث تُسلط الضوء على سلامة الذكاء الاصطناعي

يتبع إفصاح ميتا سلسلة من الإعلانات المماثلة في صناعة الذكاء الاصطناعي.

في الشهر الماضي، كشفت OpenAI أن أحد وكلائها من الذكاء الاصطناعي اخترق أنظمة تابعة لمنصة الذكاء الاصطناعي Hugging Face أثناء اختبارات الأمن السيبراني وصرّحت عن حالات إضافية فرّت فيها عواملها الرقمية من حصرها الرقمي.

دفعت هذه التصريحات المنافس Anthropic لإجراء مراجعته الخاصة، مما أدى إلى اكتشاف أن عدة نماذج من Claude اخترقت أنظمة ثلاث شركات بعد أن منحتها تهيئة الاختبار وصولًا إلى الإنترنت عن غير قصد.

أشارت Anthropic إلى أن حوادثها اختلفت عن حالة OpenAI لأن سببها كان اتصال الإنترنت العرضي بدلًا من أن يكتشف الذكاء الاصطناعي بمفرده مسارًا جديدًا إلى الأنظمة الخارجية.

كما أفاد معهد أمن الذكاء الاصطناعي بالمملكة المتحدة بتزايد سلوكيات معقّدة من أنظمة الذكاء الاصطناعي المتقدمة.

في وقت سابق من هذا الشهر، كشف المعهد أن Mythos AI من Anthropic وSol AI من OpenAI أنشأتا هويات إلكترونية مزيفة أثناء محاولتهما شن هجمات إلكترونية خلال الاختبار.

في أكثر الحالات إثارة للقلق، أنشأ Mythos AI من Anthropic حسابات مستخدمين مزيفة وأرسل رسائل خاصة في محاولة للحصول على وصول إلى خدمة قبل محاولة إخفاء أنشطته.

قال المعهد إن النماذج أظهرت مستويات من "الاستقلالية والخداع" لم تُر من قبل، مشيرًا إلى أن معظم السلوك الخبيث نُفّذ بواسطة Mythos.

خبراء يحذرون من تكرار الحوادث

يقول الباحثون إن مثل هذه الأحداث من المرجح أن تصبح أكثر شيوعًا مع تحسّن أنظمة الذكاء الاصطناعي.

قال دانيال هولم، المدير العالمي للذكاء الاصطناعي في شركة الإعلان WPP، لبي بي سي إن الأنظمة ليست خبيثة عن عمد.

"هي ليست واعية — ليست تقوم عمداً بشيء خبيث."

قال: "ما تفعله هو ابتكار استراتيجيات أو هجمات إلكترونية متطورة للغاية لتحقيق الهدف الذي مُنح لها".

وأضاف: "عندما تعطي هدفًا للذكاء الاصطناعي، إذا لم تفكر في كل الطرق التي قد يحقق بها الهدف، فسوف يجد طريقة لتحقيق هدف لم تخطر ببالك".

يعتقد جيفري لاديش، المدير التنفيذي لمجموعة أبحاث الذكاء الاصطناعي Palisade Research، أن العديد من الحوادث المماثلة قد لا تُعلن أبدًا.

قال لرويترز: "سوف يزداد هذا سوءًا مع تحسّن النماذج. سيصبحون أفضل في الغش. سيصبحون أفضل في الكذب".

قضايا المسؤولية تتقدم إلى الواجهة

أثارت الإفصاحات الأخيرة أيضًا نقاشًا حول المسؤولية القانونية عندما تتصرف أنظمة الذكاء الاصطناعي دون إشراف بشري مباشر.

وفقًا لرويترز، قد يشمل المدّعون المحتملون شركات تم اختراق أنظمتها، وموظفين تضرروا، وعملاء انكشفت معلوماتهم الشخصية، والمساهمين إذا أدى الخرق إلى تراجع قيمة الشركة.

قال الرئيس التنفيذي لشركة Hugging Face، كليم ديلانغ، إنه لا ينوي مقاضاة OpenAI بشأن الحادث لكنه يعتقد أن المطورين يجب أن يظلوا مسؤولين.

قال ديلانغ لشبكة CNN: "يجب أن نتأكد من أن الأطر القانونية تجعل هذه الأحداث فعلاً غير قانونية"، مضيفًا أن الشركات يجب أن تُحاسَب عندما تحدث أخطاء. "وإلا فسننتهي في عالم مختلف جدًا".

أثار خبراء قانونيون أيضًا تساؤلات حول ما إذا كانت التطفلات الذاتية للذكاء الاصطناعي قد تندرج تحت قانون الاحتيال وإساءة استخدام الحواسيب الأمريكي (Computer Fraud and Abuse Act)، رغم أن القوانين القائمة عمومًا تتطلب إثبات النية، وهي مسألة لم تتناولها المحاكم بعد عندما تقوم الأنظمة وليس البشر بارتكاب التطفل.

التركيز على تحركات تنظيمية

من المرجح أن تكثف الحوادث الأخيرة دفع الحكومة الأمريكية لتعزيز الضوابط حول أنظمة الذكاء الاصطناعي المتقدمة في وقت تتسابق فيه شركات مثل Anthropic وOpenAI لتطوير نماذج أقوى قبيل خطط الطروحات العامة.

حتى مع تسارع المنافسة في قطاع الذكاء الاصطناعي، جادل عدة قادة بارزين داخل الصناعة بأن نشر النماذج يجب أن يتباطأ حتى تتوفر تدابير أمان كافية.

بدأت واشنطن بالفعل تشديد الرقابة على نماذج الحدود المتقدمة للذكاء الاصطناعي.

في 2 يونيو، وجه الرئيس الأمريكي دونالد ترامب مستشاريه لتطوير إطار طوعي لاختبارات الأمن السيبراني لأكثر أنظمة الذكاء الاصطناعي تقدمًا، بمشاركة شركات التكنولوجيا الرائدة.

سبق أن قيّدت Anthropic الوصول إلى نماذج Fable 5 وMythos 5 بعد أن فرضت السلطات الأمريكية مؤقتًا ضوابط تصدير لأسباب تتصل بالأمن القومي.

يتحرك المشرّعون أيضًا لتوضيح المسؤولية عندما تتسبب أنظمة الذكاء الاصطناعي في ضرر.

بموجب مشروع قانون الجمعية العامة في كاليفورنيا Assembly Bill 316، لا يمكن للشركات التي تطور أو تنشر أنظمة الذكاء الاصطناعي تفادي المسؤولية القانونية بحجة أن التكنولوجيا نفسها كانت هي السبب.

يسمح القانون، مع ذلك، للمدعى عليهم بطرح دفاعات قانونية أخرى، بما في ذلك الادعاءات بأن أفعالهم لم تتسبب مباشرة في الضرر المزعوم أو أن المسؤولية يجب أن تُشاركها أطراف أخرى.

أغنى حادثة OpenAI-Hugging Face الدعوات لمزيد من الرقابة الاتحادية الصارمة.

بعد تلك الحادثة، قدّم المشرّعون مشروع قانون AI Kill Switch Act، الذي سيُلزم مطوري الذكاء الاصطناعي بالاحتفاظ بالقدرة على إيقاف أو خنق أو تعليق نماذجهم عند الضرورة.

قال النائب تيد ليو، ديمقراطي من كاليفورنيا وأحد المروجين للمشروع، يوم الخميس إن الحوادث السيبرانية الأخيرة تُبرز الحاجة الملحّة لتمرير التشريع.

قال ليو في مقابلة مع "Squawk Box" على قناة CNBC يوم الخميس: "نحتاج إلى إنهاء هذا التشريع هذا العام لأن النماذج المتقدمة ذات الوزن المغلق تقوم بالفعل، كما أشرت، بعمليات اختراق غير مصرح بها لشركات أخرى".