ما هو الذكاء الخارق ولماذا يدعو عمالقة التكنولوجيا إلى حظره؟

وقع أكثر من 800 شخصية بارزة من جميع أنحاء الطيف التكنولوجي والعلمي والسياسي والثقافي بيانا عاما يدعو إلى حظر تطوير أنظمة الذكاء الاصطناعي "فائقة الذكاء".

يضم التحالف ، الذي ينسقه معهد مستقبل الحياة وأعلن يوم الأربعاء ، المؤسس المشارك لشركة Apple ستيف وزنياك ، ومؤسس مجموعة فيرجن ريتشارد برانسون ، وخمسة حائزين على جائزة نوبل ، ورواد الذكاء الاصطناعي جيفري هينتون ويوشوا بينجيو ، وكلاهما غالبا ما يطلق عليهما "عرابي الذكاء الاصطناعي".

ويشمل أيضا رئيس هيئة الأركان المشتركة الأمريكية السابق مايك مولن ، ومستشار البابا فرانسيس في الذكاء الاصطناعي باولو بينانتي ، وحتى الأمير هاري وميغان ، دوق ودوقة ساسكس.

تعكس المجموعة المتنوعة سياسيا ما يصفه المنظمون بالقلق العالمي بشأن المخاطر الوجودية التي تشكلها الآلات التي يمكن أن تتجاوز الذكاء البشري.

ما هو الذكاء الخارق؟

يشير الذكاء الخارق ، الذي يشار إليه أحيانا باسم الذكاء الاصطناعي الخارق أو ASI ، إلى نوع من الذكاء الاصطناعي الذي سيكون أكثر ذكاء من البشر في كل مجال مهم تقريبا.

هذا يختلف تماما عن أدوات الذكاء الاصطناعي اليوم ، مثل ChatGPT ، والتي تندرج تحت فئة "الذكاء الاصطناعي الضيق" لأنها مصممة لأداء مهام محددة.

حتى الأنظمة الأكثر تقدما لدينا الآن ، بما في ذلك نماذج اللغات الكبيرة مثل GPT-5 ، لا تزال محدودة.

يمكنهم كتابة التعليمات البرمجية وصياغة المقالات وحتى اجتياز الامتحانات ، لكنهم لا يفكرون بشكل مستقل ، أو يحددون أهدافهم الخاصة ، أو يفهمون العالم بالطريقة التي يفعلها البشر.

إنهم في الحقيقة يتنبأون فقط بالأنماط بناء على بيانات التدريب ، وليس التفكير في المستقبل أو اتخاذ قرارات مستقلة.

يعتقد بعض الباحثين أن المعلم التالي هو الذكاء الاصطناعي العام ، والذي من شأنه أن يتطابق مع الذكاء البشري ويتعلم مهام جديدة من تلقاء نفسه.

لكن الذكاء الخارق سيذهب إلى أبعد من ذلك بكثير.

من الناحية النظرية ، يمكن أن يتفوق على البشر في العلوم والاستراتيجية والهندسة والطب ، وبشكل أساسي كل مجال معرفي ، ويمكن أن يحل المشكلات التي هي حاليا بعيدة عن متناول أيدينا.

هذه القفزة الأسية هي بالضبط السبب في أن النقاش حول مخاطرها شديد للغاية.

لماذا يدعو قادة التكنولوجيا إلى الحظر؟

يقول أولئك الذين وقعوا على العريضة إن السباق الحالي نحو الذكاء الخارق ، بقيادة شركات مثل OpenAI و Google و Meta ، يتحرك بشكل أسرع بكثير مما يمكن للحكومات أو المنظمين مواكبة ذلك.

حتى المطلعين يدقون ناقوس الخطر: قال سام ألتمان إنه سيتفاجأ إذا لم يكن الذكاء الخارق هنا بحلول عام 2030 ، وذهبت Meta إلى حد إعادة تسمية جزء من قسم الذكاء الاصطناعي الخاص بها "Meta Superintelligence Labs" ، مما يجعل طموحاتها واضحة تماما.

تصف العريضة الذكاء الخارق بأنه خطر على نطاق الأوبئة أو الأسلحة النووية.

هذا الإطار ليس جديدا ، لأنه يردد بيانا صدر عام 2023 عن المديرين التنفيذيين في الذكاء الاصطناعي يحث قادة العالم على التعامل مع خطر انقراض الذكاء الاصطناعي كأولوية عالمية قصوى.

يقول مؤيدو الحظر إن المخاطر وجودية.

يجادلون بأنه إذا تم بناء أنظمة فائقة الذكاء بدون قواعد أمان قوية ، فقد يفقد البشر السيطرة على الأنظمة الحيوية ، أو يعانون من نزوح اقتصادي جماعي ، أو يواجهون نتائج أسوأ بكثير.

أكد ستيوارت راسل ، باحث سلامة الذكاء الاصطناعي بجامعة كاليفورنيا في بيركلي الذي وقع على العريضة ، أن هذا لا يقصد به أن يكون حظرا شاملا بل مطلبا بأن تكون بروتوكولات السلامة في مكانها الصحيح لتقنية ، وفقا لمنشئيها ، يمكن أن تنهي البشرية بشكل معقول.

هذه العريضة هي الأحدث في موجة متزايدة من المحاولات المنسقة لإبطاء الاندفاع نحو الذكاء الاصطناعي الأكثر قوة من أي وقت مضى.