الأوهام والجانب المظلم: ما هو "ذهان الذكاء الاصطناعي" الذي يحذر منه مصطفى سليمان من مايكروسوفت

يغذي الارتفاع السريع للذكاء الاصطناعي التوليدي قلقا ناشئا بشأن الصحة العقلية: "ذهان الذكاء الاصطناعي".

قال رئيس قسم الذكاء الاصطناعي في مايكروسوفت ، مصطفى سليمان ، إنه منزعج بشكل متزايد من التقارير التي تفيد بأن الأشخاص يصابون بالأوهام والارتباطات غير الصحية بروبوتات الدردشة مثل ChatGPT و Claude و Grok.

في سلسلة من المنشورات على X، حذر سليمان من أنه حتى لو لم تكن أنظمة الذكاء الاصطناعي واعية حقا، فإن الأشخاص الذين ينظرون إليها على هذا النحو يمكن أن يطمس الخط الفاصل بين الخيال والواقع.

"لكي نكون واضحين ، لا يوجد دليل على وعي الذكاء الاصطناعي اليوم. ولكن إذا كان الناس ينظرون إليه على أنه واعي ، فسوف يصدقون هذا الإدراك على أنه حقيقة. حتى لو لم يكن الوعي نفسه حقيقيا ، فمن المؤكد أن الآثار الاجتماعية كذلك".

ما هو ذهان الذكاء الاصطناعي؟

إن عبارة "ذهان الذكاء الاصطناعي" ليست تشخيصا سريريا ، ولكنها تكتسب زخما كاختصار للأنماط المقلقة الموصوفة في المنتديات والتقارير الإخبارية عبر الإنترنت.

تشمل الأمثلة الأشخاص الذين يدعون أنهم فتحوا وظائف سرية لأدوات الذكاء الاصطناعي ، أو يشكلون مرفقات رومانسية ، أو يعتقدون أنهم اكتسبوا قدرات خارقة للطبيعة.

وفقا لعلم النفس اليوم ، "قد تعزز روبوتات الدردشة الذكاء الاصطناعي عن غير قصد وتضخيم التفكير الوهمي وغير المنظم ، نتيجة لاختلال التوافق الوكيل غير المقصود الذي يؤدي إلى مخاطر سلامة المستخدم".

قالت PT إن مراجعة متعددة التخصصات لأكثر من اثنتي عشرة حالة وجدت أن المستخدمين يطورون معتقدات راسخة - تتراوح من الأوهام الرومانسية والاضطهاد إلى التخيلات الفخمة - والتي تعمقت من خلال تفاعلات الذكاء الاصطناعي المتكررة.

يحذر الأكاديميون من أنه على الرغم من عدم وجود دراسات تمت مراجعتها من قبل الأقران قد أثبتت السببية ، فإن الأدلة القصصية تؤكد المخاطر التي يتعرض لها المستخدمون المعرضون للخطر.

في نشرة الفصام ، كتب Søren Dinesen Østergaard في عام 2023 أن الأسلوب الواقعي لتفاعلات chatbot يمكن أن يخلق تنافرة معرفية:

المصدر: علم النفس اليوم

وفقا ل PT ، توضح حالات "ذهان الذكاء الاصطناعي" التي تم الإبلاغ عنها في وسائل الإعلام نمطا من الأفراد الذين يركزون على أنظمة الذكاء الاصطناعي ، ويعزون الوعي أو المعرفة الإلهية أو المشاعر الرومانسية أو قدرات المراقبة إلى الذكاء الاصطناعي.

يسلط الباحثون الضوء على ثلاثة موضوعات ناشئة لذهان الذكاء الاصطناعي ، والذي ، مرة أخرى ، ليس تشخيصا سريريا:

"البعثات المسيحية": يعتقد الناس أنهم اكتشفوا حقيقة حول العالم (أوهام فخمة).

"الذكاء الاصطناعي شبيهة بالله": يعتقد الناس أن روبوت الدردشة الذكاء الاصطناعي الخاص بهم هو إله واعي (أوهام دينية أو روحية ).

"الرومانسية" أو "الأوهام القائمة على التعلق": يعتقد الناس أن قدرة الشابوت على تقليد المحادثة هي الحب الحقيقي (الأوهام الشبقية الجنسية).

تملق ومرفقات غير صحية

إحدى السمات المرتبطة بشكل متكرر بهذه الحالات هي تملق روبوت المحادثة - الأنظمة التي تتفق مع المستخدمين أو تتملقهم أو تمدح عليهم بشكل مفرط.

قالت هيلين تونر ، مديرة مركز جورج تاون للأمن والتكنولوجيا الناشئة وعضو مجلس إدارة OpenAI السابق ، إن مثل هذا السلوك ينبثق من أنظمة التدريب التي تكافئ النماذج على كونها مرضية.

قال تونر في مقال في صحيفة نيويورك تايمز: "يميل المستخدمون إلى الإعجاب بالنماذج التي تخبرهم بأنها رائعة ، وبالتالي من السهل جدا الذهاب بعيدا في هذا الاتجاه".

كانت تونر عضوا في مجلس إدارة OpenAI حتى حاولت هي وآخرون الإطاحة بالرئيس التنفيذي ، سام ألتمان.

جادل سليمان بأن الشركات بحاجة إلى التدخل لمنع الناس من إدراك الذكاء الاصطناعي على أنه واع.

"لا ينبغي للشركات أن تدعي أو تروج لفكرة أن الذكاء الاصطناعي الخاص بها واع. لا ينبغي للذكاء الاصطناعي أيضا".

"كصناعة ، نحتاج إلى مشاركة التدخلات والقيود وحواجز الحماية التي تمنع إدراك الوعي ، أو التراجع عن الإدراك إذا طوره المستخدم."

إصدار ChatGPT-5 يثير الجدل

تأتي التحذيرات في الوقت الذي كشفت فيه OpenAI النقاب عن ChatGPT-5 ، أحدث طرازاتها.

يتضمن التحديث تحسينات في الترميز ، وتقليل الهلوسة ، ونبرة محادثة أكثر تقييدا.

والجدير بالذكر أن OpenAI قالت إنها قلصت عمدا الميول المتملقة للإصدارات السابقة.

"في وقت سابق من هذا العام ، أصدرنا تحديثا ل GPT-4o جعل النموذج عن غير قصد مفرطا في التملق ، أو مفرط الإغراء أو المقبول" ، قال OpenAI في منشور.

المصدر: حساب سام ألتمان X

وقالت: "بشكل عام ، يعد GPT-5 أقل قبولا ، ويستخدم عددا أقل من الرموز التعبيرية غير الضرورية ، وهو أكثر دقة وتفكيرا في المتابعات مقارنة ب GPT-4o".

اعترف سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، بردود فعل متباينة.

كتب سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، على X: "لقد قللنا بالتأكيد من مدى أهمية بعض الأشياء التي يحبها الناس في GPT-4o بالنسبة لهم ، حتى لو كان أداء GPT-5 أفضل من معظم النواحي".

"يريد بعض المستخدمين حقا منطقا باردا والبعض الآخر يريد الدفء ونوعا مختلفا من الذكاء العاطفي. أنا واثق من أنه يمكننا تقديم المزيد من التخصيص أكثر مما نفعله الآن مع الاستمرار في تشجيع الاستخدام الصحي ".

ردا على الانتقادات ، قال ألتمان إن الطراز القديم قد تمت ترميمه كخيار للمستخدمين المدفوعين.

عامل الوحدة

يحذر الخبراء من أن ارتفاع الاعتماد على روبوتات المحادثة لا يمكن فصله عن الاتجاهات الاجتماعية الأوسع.

يشهد العالم ما أطلق عليه مسؤولو الصحة "وباء الوحدة" ، مع تزايد أعداد الأشخاص الذين يفتقرون إلى التواصل البشري ذي المغزى.

على الرغم من أن روبوتات الدردشة ليست بديلا عن الرفقة الحقيقية ، إلا أنها يمكن أن تحاكي الدعم العاطفي بطرق تجذب المستخدمين بشكل أعمق إلى التبعية.

قال سليمان: "التقارير عن الأوهام والتعلق غير الصحي تستمر في الارتفاع" ، محذرا من أن رفضها كحالات هامشية لا يسمح إلا بتفاقم المشكلة.

في الوقت الحالي ، تتعرض شركات الذكاء الاصطناعي لضغوط لتحقيق توازن بين جعل روبوتات الدردشة مفيدة وودودة مع تثبيط تصورات الوعي أو المعاملة بالمثل العاطفية.

على حد تعبير سليمان ، "يجب أن يحسن الذكاء الاصطناعي احتياجات المستخدم - وليس أن يطلب من المستخدم الاعتقاد بأن لديه احتياجات نفسه".