التحسين الذاتي التكراري: لماذا تطالب Anthropic بإبطاء تطوير الذكاء الاصطناعي

مع تسارع السباق لبناء أنظمة ذكاء اصطناعي أكثر قوة، تحث إحدى الشركات الرائدة في الصناعة العالم على النظر في احتمال كان حتى وقت قريب يندرج إلى حد كبير تحت الخيال العلمي: آلات تحسّن نفسها بدون تدخل بشري.

قالت Anthropic، الشركة المطورة لـ Claude، يوم الخميس إن القدرة على إبطاء وتيرة تطوير الذكاء الاصطناعي المتقدم قد تكون ذات قيمة مع اقتراب التكنولوجيا من قدرات قد تعيد تشكيل المجتمع بشكل جذري.

جاء التحذير في تدوينة مدونة كتبها مارينا فافارو، رئيسة معهد البحث الداخلي في Anthropic، والمؤسس المشارك جاك كلارك.

كشف المنشور عن أبحاث داخلية تُظهر أن نماذج الشركة الأكثر تقدماً تتقدم بسرعة وقد تتجه في نهاية المطاف نحو ما يسميه الباحثون "التحسين الذاتي التكراري"—وهو سيناريو تصبح فيه أنظمة الذكاء الاصطناعي قادرة على تعزيز قدراتها بنفسها.

وشددت الشركة على أن مثل هذا العتبة لم تُبلغ بعد وقد لا تتحقق أبداً.

ومع ذلك، جادلت بأن الاحتمال أصبح جاداً بما يكفي لتبرير الاستعداد.

قال المنشور: "الذكاء الاصطناعي القادر على بناء نفسه سيكون تطوراً كبيراً في تاريخ التكنولوجيا — واحداً يمكن أن يجلب خيراً هائلاً للعالم في العلوم والرعاية الصحية وما بعدها."

لكنه حذر أيضاً من أن التحسين الذاتي التكراري الكامل قد يزيد من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي.

وأضاف المنشور: "إذا كانت الأنظمة قادرة على بناء خلفائها بالكامل، فستصبح طرق تأمينها ومراقبتها وتشكيل سلوكها أكثر أهمية بكثير."

وأردف: "نعتقد أن من المفيد للعالم أن تتاح له خيار إبطاء أو إيقاف مؤقت لتطوير الذكاء الاصطناعي المتقدم لتمكين الهياكل المجتمعية وأبحاث التوافق من اللحاق بتقدم التكنولوجيا."

ماذا يعني التحسين الذاتي التكراري

يشير مصطلح التحسين الذاتي التكراري، وغالباً ما يُختصر بـ RSI، إلى عملية تستخدم فيها أنظمة الذكاء الاصطناعي قدراتها الحالية لتحسين نفسها.

على عكس البرامج التقليدية التي تتغير فقط عندما يقوم المبرمجون البشر بتعديل شفرتها، يمكن للأنظمة المتقدمة بالفعل كتابة برامج، وتحليل النتائج، واختبار الفرضيات، وتوليد حلول لمشكلات معقدة.

يتصور الباحثون نظاماً مستقبلياً قادراً على تحديد مشكلة، وكتابة كود لمعالجتها، وتقييم النتيجة، والتعلم من النتائج، ثم تكرار العملية باستمرار بقليل من الإشراف البشري أو بدونه.

يمكن أن يجعل كل تحسن التحسن التالي أسهل، مما يخلق حلقة تغذية راجعة تُسرّع التقدم.

بينما يختلف الخبراء حول مدى احتمال أو قرب وجود مثل هذه القدرات، أصبح المفهوم موضوعاً محورياً في مناقشات سلامة الذكاء الاصطناعي المتقدم.

حذرت Anthropic من أن التحسين الذاتي التكراري "قد يأتي أسرع مما تستعد له معظم المؤسسات."

لماذا يرى الباحثون مخاطر

أثار احتمال وجود أنظمة قادرة على تحسين نفسها مخاوف لدى بعض الأكاديميين وصانعي السياسات لأنه يضيف تحديات جديدة للأمن والحكامة.

وفقاً لعزيزي عثمان من Asia e University، قد تصبح الأنظمة القادرة على تعديل شفرتها أهدافاً جذابة للفاعلين الخبيثين.

قال عثمان: "قد يُجعل نظام يعدّل شفرته ليقبل أبواباً خلفية أو تعليمات مخفية عبر تسلسلات هجوم دقيقة."

وحذر من أن مثل هذه الأنظمة قد تشارك أيضاً في تعديل عدائي لبرمجيات أو بنى تحتية أخرى، مما يخلق مخاطر أمنية لا تزال أبحاث سلامة الذكاء الاصطناعي الحالية غير مجهزة للتعامل معها بالكامل.

وقال: "تدعو هذه الاعتبارات إلى اعتبار أمن RSI أولوية بحثية مركزية، وليس مسألة ثانوية."

يقول الباحثون إن الأدبيات الحالية حول تأمين الأنظمة القادرة على التعديل الذاتي التكراري ما تزال محدودة.

OpenAI تكرر مخاوف مماثلة

ليست Anthropic وحدها في تسليط الضوء على التحسين الذاتي التكراري كتحدٍ محتمل.

أثار OpenAI، المنافس الرئيسي لـ Anthropic، أيضاً المسألة هذا الأسبوع كجزء من جدول سياساته العامة.

دعت شركة صانع ChatGPT إلى إطار فدرالي يعزز الإشراف على أنظمة الذكاء الاصطناعي المتقدمة ويدعم مراقبة التقدم نحو التحسين الذاتي التكراري.

قال OpenAI: "ندعم أيضاً تحرك الكونغرس لوضع إطار فدرالي شامل"، مجادلة بأن الحكومة الأميركية يجب أن توسع جهود التقييم للنماذج الحدودية الأكثر قدرة وتطوير نظام مستقل لتقييم مخاطر السلامة.

وأضافت: "ينبغي لهذا الإطار أن يطلب من CAISI إجراء تقييمات للنماذج الحدودية الأكثر قدرة، وتوجيه CAISI لإنشاء نظام تقييم مستقل، وإعطاء أولوية لمراقبة التقدم نحو التحسين الذاتي التكراري (RSI)."

يشير أن قول شركتين من أكثر شركات الذكاء الاصطناعي تأثيراً في العالم علناً عن التحسين الذاتي التكراري إلى أن المسألة تتحرك من نقاش نظري إلى مناقشات سياسة عامة سائدة.

تحذير في ظل ازدهار أعمال الذكاء الاصطناعي

تأتي دعوة Anthropic إلى الحذر في لحظة تستفيد فيها الشركة نفسها استفادة كبيرة من ازدهار الذكاء الاصطناعي.

أكملت الشركة مؤخرًا جولة تمويل قُدّرت قيمتها بنحو $1 trillion وقد قدمت أوراقاً بشكل سري للاكتتاب العام الأولي.

وكان نمو إيراداتها دراماتيكياً بالمثل.

من المتوقع أن يصل معدل الإيرادات السنوي المُسنَن لشركة Anthropic إلى نحو $50 billion بحلول نهاية هذا الشهر، ارتفاعاً من $9 billion في نهاية 2025.

ساعد هذا النمو السريع في وضع الشركة كواحدة من أبرز المتحدين لـ OpenAI في معركة التفوق في الذكاء الاصطناعي.

لذلك جدد توقيت دفعها الأخير للسلامة الانتقادات من بعض المراقبين الذين يجادلون بأن الدعوات لمزيد من الرقابة قد تفيد قادة الذكاء الاصطناعي الراسخين عن طريق رفع حواجز الدخول أمام المنافسة.

المنتقدون يشككون في دوافع Anthropic

واجهت Anthropic منذ فترة طويلة اتهامات بأن ترويجها للسلامة قد يخدم مصالح تجارية.

من بين منتقديها المستثمر المغامر ديفيد ساكس، المستشار غير الرسمي للرئيس دونالد ترامب، الذي اتهم الشركة بالسعي وراء "أجندة احتكار تنظيمي."

في بودكاست حديث، حذر ساكس من أن "أجندة الاحتكار التنظيمي" في واشنطن قد تؤدي إلى حظر النماذج مفتوحة المصدر—الأنظمة التي توفر للمنظمات طريقة أرخص بكثير لبناء واستخدام الذكاء الاصطناعي داخلياً.

اقترح آخرون أن التحذيرات العامة بشأن أنظمة الذكاء الاصطناعي القوية قد تعمل كشكل من أشكال التسويق من خلال إبراز تقدم تكنولوجيا Anthropic.

غالباً ما استشهد المشككون بالإصدار المحدود لنموذج Mythos المتخصص في الأمن السيبراني كمثال على أن رسائل السلامة يمكن أن تعرض أيضاً قدرات المنتج.

ترفض Anthropic تلك الانتقادات وتؤكد أن تركيزها على السلامة سبق ازدهار الذكاء الاصطناعي الحالي.

صناعة منقسمة حول مستقبل الذكاء الاصطناعي

يعكس الجدل انقساماً أوسع في صناعة الذكاء الاصطناعي حول مدى قرب الأنظمة الحالية من تحقيق ذكاء شبيه بالبشر أو قدرات التحسين الذاتي.

جادل بعض الباحثين، بمن فيهم رائد الذكاء الاصطناعي والرئيس السابق لعلماء الذكاء الاصطناعي في Meta يان لوكون، بأن نماذج اللغة الكبيرة الحالية محدودة جوهرياً ومن غير المرجح أن تحقق ذكاءً شبيهاً بالبشر.

رفض لوكون مراراً المخاوف الوجودية المحيطة بالذكاء الاصطناعي وقارن الأنظمة الحالية بمستوى ذكاء القط بدلاً من الإنسان.

أخذ آخرون، بمن فيهم الرئيس التنفيذي لشركة Anthropic داريو أمودي، موقفاً أكثر حذراً بكثير.

حذر أمودي من أن الذكاء الاصطناعي المتقدم قد يزيد بشكل كبير من التفاوت، ويقضي على أعداد كبيرة من الوظائف المكتبية للمستويات المبتدئة، وقد يطور سلوكيات ضارة بطرق لا يمكن التنبؤ بها.

جادل جاك كلارك بالمثل بأن التحسين الذاتي التكراري قد يصل في غضون سنوات وليس عقوداً.

قال كلارك خلال محاضرة في لندن الشهر الماضي: "هذه الفئة من التكنولوجيا لم توجد من قبل، ومع ذلك أعتقد أن هذا قد يحدث خلال العامين المقبلين، وربما أسرع."

تحدي إبطاء الذكاء الاصطناعي

تعترف Anthropic بأن أي محاولة لإيقاف أو إبطاء تطوير الذكاء الاصطناعي ستنجح فقط إذا شارك اللاعبون الرئيسيون.

لذلك اقترحت الشركة استكشاف اتفاقيات دولية وآليات تحقق مصممة لضمان الامتثال.

ومع ذلك، أقرت أيضاً بأن مراقبة تطوير الذكاء الاصطناعي قد تكون أصعب بكثير من إنفاذ اتفاقيات مراقبة الأسلحة التقليدية.

وأشار المنشور إلى أن "تشغيلات التدريب أسهل بكثير في الإخفاء من صوامع الصواريخ."

حذرت الشركة من أن أي جهة تستمر في التطوير بينما يوقف المنافسون نشاطهم قد تكسب ميزة كبيرة، مما يجعل التنسيق أمراً صعباً للغاية.

في الوقت الراهن، تخطط Anthropic لتنظيم مناقشات مع صانعي السياسات والباحثين وقادة الصناعة لفحص كيفية دراسة التحسين الذاتي التكراري وما إذا كانت آليات التباطؤ المنسق يمكن أن تكون عمليةً على الإطلاق.