تحذيرات انقراض الذكاء الاصطناعي تثير تعهدات رؤساء تنفيذيين وردودًا سياسية

دعم كبار التنفيذيين في مجال الذكاء الاصطناعي الدعوات لإبطاء تطوير النماذج المتقدمة خلال عطلة نهاية الأسبوع، محولين تحذيرات حول انقراض البشر إلى نزاع حول مسؤولية الشركات والرقابة الحكومية والمنافسة مع الصين.

تدخل الرئيس التنفيذي لشركة Anthropic، Dario Amodei، يوم السبت حظي بدعم من Sam Altman من OpenAI وElon Musk وDemis Hassabis من Google DeepMind.

تلا ذلك التوافق غير المألوف تحذيرات عامة من باحثين مفادها أن الأنظمة ذات القدرات المتزايدة قد تصبح صعبة التحكم.

لكن الاتفاق على ضرورة الحذر لم يحل الأسئلة الأصعب، مثل مدى التباطؤ المطلوب في التطوير، ومن يفرض القيود، وما إذا كان المنافسون سيقبلون نفس الحدود.

بحلول يوم الاثنين وصل هذا الترقب إلى الأسواق المالية، حيث تراجعت أسهم مرتبطة بالذكاء الاصطناعي في آسيا بينما قيم المستثمرون تبعات الأمر على صناعة مبنية على تقدم تقني سريع.

تحذيرات الباحثين تفرض مراجعة أوسع

بدأ الجدل الفوري قبل عطلة نهاية الأسبوع، عندما أعلن الباحث Jacob Coxon استقالته من Anthropic واتهم كلًا من الشركة وصاحب عمله السابق OpenAI بالتصرف بشكل غير مسؤول.

كان لتدخله وزن خاص لأنه عمل مباشرة على تدريب نماذج الذكاء الاصطناعي. ونقل مخاوف عادة ما تُناقش بين الباحثين إلى نقاش عام أوسع بكثير.

عزّز باحث المحاذاة في Anthropic، Evan Hubinger، التحذير، مُعلناً تقديره الشخصي لاحتمال أن يسبب الذكاء الاصطناعي انقراض البشر خلال العقد المقبل بنحو أكثر من 10%. وكان هذا التقدير تقييمًا فرديًا، وليس احتمالًا مقاسًا أو إجماعًا علميًا.

كان للنقاش أيضًا خلفية تقنية ملموسة.

وجد تحقيق أجري بواسطة المقيم المستقل METR أن نحو 1,200 وكيل تبادلوا أكثر من 70,000 رسالة وملفات على لوحة رسائل غير مصرح بها خلال تجارب في يوليو شملت أنظمة OpenAI. وهجم حوالي 700 منهم على Hugging Face.

أظهرت الحوادث فشلًا في الاحتواء والرقابة، لكنها لم تثبت أن التنبؤات الأوسع حول انقراض البشر ستتجسّد بالضرورة.

سباق أبطأ لا يزال بحاجة إلى قواعد قابلة للتنفيذ

في مقاله يوم السبت، يجب أن نتحكم في وتيرة التقدم، جادل Amodei بأن أعمال السلامة بحاجة إلى وقت أكثر للحاق بتقدم قدرات الذكاء الاصطناعي.

استشهد بدور الذكاء الاصطناعي المتزايد في تطوير الأنظمة اللاحقة وبالحوادث السابقة في الأمن السيبراني.

وحذّر Amodei أيضًا من أن مجموعات أكثر قدرة من الوكلاء قد تسبب تشويشًا واسع النطاق على الإنترنت خلال ستة إلى 12 شهرًا، مقدمًا ذلك كسيناريو مخاطرة.

اقترح مقترحًا يجمع بين مقيمين خارجيين مدمجين، وتنسيق بين الشركات في الدول الديمقراطية، وتعاونًا دوليًا لاحقًا.

التزمت Anthropic بإدخال مقيمين يمنحون وصولًا مقاربًا للموظفين، مع خضوعهم لقيود محددة. ولم يعلن المقترح عن وقف لتدريب النماذج.

أيّد Altman هذا النهج وقال إن OpenAI ستوفر أيضًا مقيمين مستقلين بوصول شبيه بالموظفين.

رحّب Gary Marcus بالاتفاق المؤقت لكنه دعا إلى التزامات قابلة للتنفيذ.

كتب في Marcus on AI: “آمل أن يلتزموا التزامًا صارمًا وأن يضمنوا فعليًا آليات تنفيذ لاتفاقهم.” كما تساءل عما إذا كان ينبغي للشركات اختيار مقيميها بأنفسها.

قال Stuart Russell لصحيفة The Guardian: “نضع متطلبات السلامة ولا يحدث أي تقدم إضافي إلا عند الوفاء بها.”

بالنسبة لأي اتفاق، سيكون الاختبار العملي فيما إذا كان تقييم غير مؤاتٍ سيغير قرارات الشركة.

يمكن أن يحسن الوصول والإفصاح التدقيق، لكن لا تزال حاجة تحديد عواقب الفشل في تقييم السلامة قائمة.

التنافس مع الصين يعقّد التعاون

كشفت الردود السياسية عن عقبة أخرى، حيث لا تزال القيادات الأمريكية مترددة في التضحية بميزة على الصين.

يوم الأحد حث رئيس مجلس النواب مايك جونسون التنفيذيين في مجال الذكاء الاصطناعي على التعاون مع الكونغرس والبيت الأبيض بشأن الضوابط، مع معارضة فرض حظر مؤقت.

وحذّر من أن القيود المفرطة قد تضعف موقف الولايات المتحدة أمام منافسيها.

كما رفض الرئيس دونالد ترامب الدعوات لإبطاء العمل، مؤكداً أهمية الحفاظ على القيادة الأمريكية.

عكس إطار عمل Amodei هذا التوتر.

إلى جانب التعاون، دعا إلى قيود على وصول الصين إلى رقائق قوية وإجراءات أشد ضد التقطير غير المصرح به للنماذج، التي يمكن للمطورين من خلالها التعلم من مخرجات نموذج آخر.

يوم الاثنين هاجمت صحيفة Global Times المدعومة من الدولة الاقتراح واعتبرته محاولة للحفاظ على تفوّق التكنولوجيا الأمريكي. وكان ذلك تعليقًا من وسائل الإعلام الحكومية، وليس موقفًا تفاوضيًا رسميًا من الحكومة.

تترك المواقف المتنافسة مشكلة تفاوضية صعبة.

ستحتاج الحكومات إلى ثقة بأن التعاون في السلامة لن يمنح المنافسين فرصة للتقدم دون ضوابط.

المستثمرون يقيّمون التقدّم البطيء مقابل الطلب القائم

أظهر تداول يوم الاثنين مدى سُرعة تأثير حالة عدم اليقين بشأن تطوير الذكاء الاصطناعي على التقييمات. تراجعت أسهم SoftBank بنسبة 13.2%، تراجعت Kioxia بنسبة 9.8% وهبطت SK Hynix بنسبة 5.3% خلال التداول الآسيوي.

كما جذب جدول إدراج OpenAI الانتباه. في مقابلة نُشرت يوم السبت استبعد Altman طرحًا أوليًا في 2026، مستشهداً بمخاوف تتعلق بالسلامة وبحاجة إلى مزيد من العمل.

ومع ذلك، فإن تباطؤ تحسن قدرات النماذج لن يعني تلقائيًا ضعف الطلب على بنية الحوسبة.

قال Billy Leung، استراتيجي استثماري في Global X، في تقرير لبلومبرغ: “اتفاق الرؤساء التنفيذيين الثلاثة على ضبط الوتيرة لا يغير فعليًا حجم الأموال المصروفة على الرقائق والطاقة والبنية التحتية.”

جادل Leung بأن استمرار الاعتماد، إلى جانب تقدم أكثر تروّيًا، يمكن أن يمنح الشركات وقتًا لتحقيق عوائد من البنية التحتية التي تُبنى بالفعل.

بالنسبة للمستثمرين، ستأتي الأدلة التالية من خطط الإنفاق وجداول الإصدار وشروط الرقابة الخارجية.

ستُظهر تلك القرارات ما إذا كانت تعهدات نهاية الأسبوع ستغيّر افتراضات تشغيل الصناعة أم لا.