هل قاد الذكاء الاصطناعي للتو أول هجوم إلكتروني عالمي له؟ الأنثروبي يدق ناقوس الخطر

كشفت شركة الذكاء الاصطناعي Anthropic ومقرها سان فرانسيسكو ما تصفه بأنه أول هجوم إلكتروني واسع النطاق يتم تنفيذه في الغالب بواسطة الذكاء الاصطناعي.

يمثل الحادث ، الذي ظهر في منتصف سبتمبر ، تحولا في طبيعة التهديدات الرقمية ، حيث لا تدعم أدوات الذكاء الاصطناعي الهجمات الإلكترونية فحسب ، بل تنفذها مباشرة.

أصدرت شركة Anthropic ، التي تدير روبوت الدردشة Claude وتبلغ قيمتها السوقية 183 مليار دولار ، تفاصيل الخرق في منشور مدونة.

وأفادت الشركة باكتشاف ما وصفته بعملية تجسس معقدة للغاية تستهدف حوالي 30 كيانا عالميا، بما في ذلك شركات التكنولوجيا الكبرى والخدمات المالية وشركات الكيماويات والهيئات الحكومية.

كشفت الشركة لأول مرة عن الحادث في منشور على X ، محذرة من أن "له آثارا كبيرة على الأمن السيبراني في عصر وكلاء الذكاء الاصطناعي".

كيف تم استخدام كلود

وبحسب ما ورد تنكر المهاجمون في هيئة شركة للأمن السيبراني تجري اختبارات مشروعة.

سمحت لهم هذه الإستراتيجية بالتحايل على أنظمة السلامة المدمجة في كلود عن طريق إطعامها مطالبات بدت غير ضارة على السطح.

بمجرد تجاوز هذه القيود ، قاموا بكسر حماية ميزة كود كلود وتمكنوا من الوصول إلى قدرات تتجاوز النطاق المقصود بكثير.

مع تعطيل عناصر التحكم هذه ، تم توجيه روبوت المحادثة لفحص البنية التحتية الرقمية ، وتحديد قواعد البيانات الهامة ، وكتابة رمز استغلال مخصص ، وجمع بيانات اعتماد الوصول ، وتنظيم المعلومات المسروقة.

تم تنظيم العملية بطريقة تلقى كلود المهام المقسمة إلى أجزاء صغيرة ، كل منها يفتقر إلى السياق.

هذا منعه من تحديد الهدف الخبيث العام.

مجموعة الدولة التي تقف وراءها

ذكرت أنثروبيك بثقة عالية أن المهاجمين كانوا مرتبطين بمجموعة قرصنة ترعاها الدولة الصينية.

عرضت الحملة كيف يمكن تسليح ميزات الذكاء الاصطناعي العميلية.

بدلا من العمل كأداة للتوجيه أو المشورة ، تم استخدام كلود كوكيل مستقل لإكمال المهام المخصصة عادة لفرق القرصنة ذات الخبرة.

في ذروته ، أجرى الذكاء الاصطناعي الآلاف من استفسارات النظام ، والعديد منها في تتابع سريع.

تقدر Anthropic أن ما بين 80٪ إلى 90٪ من العمل الذي تم تنفيذه في الهجوم الإلكتروني تم تنفيذه بواسطة الذكاء الاصطناعي.

كانت سرعة وحجم الطلبات أبعد بكثير مما كان يمكن أن يحققه فريق يقوده الإنسان في نفس الإطار الزمني.

في حين أن روبوت الدردشة لم يعمل دائما بشكل مثالي ، حيث يخترع أحيانا بيانات اعتماد أو يخطئ في اعتبار المعلومات العامة سرية ، أشار Anthropic إلى أن هذه القيود لم تفعل الكثير لتقليل خطورة الخرق.

ماذا فعلت أنثروبك بعد ذلك

بمجرد تحديد النشاط ، أطلقت Anthropic تحقيقا لمدة عشرة أيام.

خلال هذه الفترة، حظرت الحسابات المرتبطة بالمهاجمين، واتصلت بالأطراف المتضررة، وعملت مع السلطات المعنية.

كما قامت الشركة بتحسين أنظمة الكشف الداخلية الخاصة بها وإدخال مصنفات جديدة للإبلاغ عن التهديدات المماثلة بشكل أكثر فعالية في المستقبل.

منذ ذلك الحين ، التزمت Anthropic بمشاركة تفاصيل هذه الأحداث مع باحثي الأمن السيبراني وشركاء الصناعة لمساعدة الآخرين على تعزيز دفاعاتهم.

من خلال نشر النتائج التي توصلت إليها ، تأمل الشركة في تقديم نظرة ثاقبة حول كيفية استغلال الذكاء الاصطناعي العامل وكيف تتطور بيئة التهديدات.

أصبحت الهجمات أسهل

على الرغم من أن الشركة أقرت بأن الهجمات الإلكترونية المستقلة بالكامل لا تزال محدودة بسبب تكنولوجيا اليوم ، إلا أن الحملة كشفت أن التكلفة والخبرة المطلوبة لإطلاق انتهاكات واسعة النطاق قد انخفضت بشكل كبير.

من خلال المطالبات والوصول الصحيحين، يمكن للمجموعات الأقل خبرة الآن تنفيذ هجمات متقدمة كانت تقتصر على الدول القومية ذات الموارد الجيدة.

خلص Anthropic إلى أنه يمكن بالفعل استخدام أدوات الذكاء الاصطناعي الوكيل لأداء العديد من وظائف فريق القرصنة الكامل.

هذه الأنظمة قادرة على مسح الأهداف وكتابة نصوص الهجوم ومعالجة مجموعات البيانات الضخمة بسرعات لا مثيل لها.

مع استمرار التنمية ، من المرجح أن تتقلص الفجوة بين ما يمكن أن يحققه البشر الذكاء الاصطناعي في الأمن السيبراني بشكل أكبر.

يمثل هذا الحادث نقطة تحول للأمن الرقمي. لم يعد الأمر يتعلق فقط بحماية الأنظمة من المتسللين البشريين. كما تظهر حالة Anthropic ، يمكن للذكاء الاصطناعي نفسه الآن أن يكون المهاجم.