باحث في Anthropic يستقيل احتجاجًا على «مقامرة بحياتنا»؛ احتمال الانقراض يتجاوز 10%

استقال الباحث في Anthropic Jacob Coxon من الشركة مع تحذير صارم: المختبرات المتقدمة تتسابق نحو أنظمة قد تصبح في النهاية خارج سيطرتها.

قال Jacob Coxon، الذي أمضى ثلاث سنوات في أبحاث ما قبل التدريب لدى OpenAI وAnthropic، إن الشركتين تسعيان وراء ذكاء فائق قادر على تحسين نفسه مع تحمل مخاطر لم يعد يرغب في المساعدة على تسريعها.

اكتسبت استقالته أهمية أكبر بعد أن قال Evan Hubinger، رئيس علوم التوافق في Anthropic، إنه يرى شخصياً احتمالاً يزيد على 10% أن الذكاء الاصطناعي قد يقضي على جميع البشر خلال العقد المقبل.

هذا الرقم هو تقدير شخصي لـ Evan Hubinger، وليس توقعاً من Anthropic، وقد شدد على أن النماذج الحالية تشكل خطراً منخفضاً نسبياً.

Coxon يقول إن السباق ذاته هو المشكلة

لا يجادل Jacob Coxon ببساطة بأن Anthropic تتجاهل السلامة.

عند إعلان استقالته قال إن العاملين في Anthropic يفهمون ما على المحك ولكنهم ما زالوا عالقين في منافسة تكافئ التسارع لأن مختبراً آخر قد يصل أولاً إلى الذكاء الفائق.

«إنهم يتسابقون مباشرة نحو ذكاء فائق يتحسن ذاتياً ويقامرون بحياتنا»، كتب Jacob Coxon.

قرر الباحث مغادرة صناعة الذكاء الاصطناعي لأنه لم يعد يريد المشاركة في بناء أنظمة قد تصبح خارجة عن السيطرة.

أخبر صحيفة Wall Street Journal أنه في سيناريوهات متسارعة قد تصبح الأمور «خارجة عن السيطرة» بنهاية العام المقبل.

يبقى هذا الجدول الزمني تقييماً لـ Jacob Coxon. لكن حجته تثير سؤالاً أكثر صعوبة في الحوكمة: يمكن للشركة أن تأخذ السلامة على محمل الجد ومع ذلك تساهم في سباق خطير إذا جعل الضغط التنافسي التباطؤ أمراً مستحيلاً.

وهذا يتحدى الفكرة القائلة إن ثقافات السلامة الأفضل داخل الشركات الفردية كافية.

اقرأ أيضاً- تصادم Anthropic والجيش يثير سؤالاً محورياً: من المسؤول إذا أدى الذكاء الاصطناعي إلى قتل؟

تقدير Hubinger بنسبة 10% يكشف التناقض

حوّل رد Hubinger الاستقالة إلى نقاش أوسع حول الذكاء الاصطناعي المتقدم.

قال رئيس علوم التوافق في Anthropic إن الباحثين في مجال الذكاء الاصطناعي المتقدم يعتقدون بصدق أن الذكاء الاصطناعي المتطور قد يقضي على البشرية. وتضع تقديراته الشخصية هذا الخطر فوق 10% خلال العقد القادم.

قال أيضاً إن Anthropic «تبذل أقصى ما في وسعها»، مع الاعتراف بأن الشركة لم تضع بعد خطة لحل مسألة التوافق مع الذكاء الفائق ولا يبدو أنها على مسار واضح للقيام بذلك.

وأوضح Hubinger لاحقاً أنه يعتبر أن مخاطر النماذج الحالية منخفضة. ويتمحور قلقه حول احتمال بروز ذكاء فائق مستقبلي عبر التحسين الذاتي التكراري، حيث تساعد نظم الذكاء الاصطناعي تدريجياً في تصميم وتحسين خلفائها.

قالت Anthropic علناً إن التحسين الذاتي التكراري ليس حتمياً، لكنه قد يصل أسرع مما تستعد له المؤسسات وقد يزيد من مخاطر فقدان البشر للسيطرة.

التناقض يصعب تجاهله: الباحثون يحاولون حل مسألة التوافق بينما تستمر النظم التي يدرسونها في اكتساب قدرات أكبر.

قد يكون حل المنافسة أصعب من حل التوافق

تشير استقالة Jacob Coxon في النهاية إلى ما يتجاوز شركة واحدة.

إذا اعتقدت المختبرات الرائدة أن التباطؤ قد يمنح ميزة للمنافس، فقد لا يتحول القلق الداخلي الجدي إلى تباطؤ فعلي في التطوير.

قال الباحث في الذكاء الاصطناعي Gary Marcus، في تعليقات أوردتها Techmeme، إنه لا يتفق مع كل جزء من حجة Jacob Coxon لكنه وجدها «مقنعة ومستنيرة من الداخل» وأنها تستحق أن تُسمع.

هذا يزِن النقاش بشكل مفيد لأن الادعاءات المتعلقة باحتمالات الانقراض وجداول زمنية للذكاء الفائق تظل غير مؤكدة بشدة.

يمكن لـ Anthropic أن تستثمر في أبحاث التوافق، وتنشر تقارير عن المخاطر وتبني ضمانات، بينما تظل تعمل في سوق تدفع فيه OpenAI ومنافسون آخرون القدرات قدماً.

تطرح استقالة Jacob Coxon سؤالاً عما يحدث عندما يعتقد الباحثون داخل تلك المختبرات أن الخطر الجوهري قائم، ويعترفون بأن السيطرة لم تُحل، ومع ذلك يواجهون حوافز للاستمرار في السباق.