لماذا تضع نماذج الذكاء الاصطناعي الواثقة من الغالب الأولوية للحزم على الدقة

تتزايد المخاوف بشأن موثوقية نماذج الذكاء الاصطناعي، حيث تكشف أبحاث جديدة أن بعض الأنظمة الشائعة تنتج معلومات غير صحيحة في أكثر من ثلث ردودها، رغم الاعتماد المتزايد والثقة في تكنولوجيا الذكاء الاصطناعي، حسبما قالت مجموعة ING يوم الأربعاء.

نماذج الذكاء الاصطناعي الحديثة، التي تتميز بالتفكير العميق، والذاكرة طويلة الأمد، والوكلاء المستقلين، يمكنها أداء مهام مثل تصفح الويب بأقل تدخل بشري. 

ومع ذلك، فإن تنفيذ هذه المهام يتطلب بيانات واسعة، مما يؤدي إلى اعتماد أكبر على مصادر بيانات خارجية غالبا ما تكون غير محكومة وغير موثقة، حسبما قال جوليان جيب، الاقتصادي المبتدئ في التجارة العالمية، في تقرير.

الثقة الزائدة

تنتج أنظمة الذكاء الاصطناعي الرائدة ادعاءات كاذبة بمعدل يصل إلى 40٪، وهو نتيجة أبرزتها دراسة حديثة أجرتها الاتحاد الأوروبي للبث (EBU).

تزايد تكرار الاستجابات يتماشى مع تحول في سلوك نموذج الذكاء الاصطناعي. 

كانت أنظمة الذكاء الاصطناعي السابقة مبرمجة لرفض الإجابة على الاستفسارات المتعلقة بمواضيع خارج مجموعات بيانات التدريب الخاصة بها. 

ومع ذلك، فإن الأنظمة الحديثة التي تحتوي على اتصال بالويب مصممة للإجابة بشكل أكثر تكرارا، حتى عندما تكون المعلومات المتاحة محدودة أو غير مؤكدة.

زيادة تفاعل المستخدمين ميزة، لكنها تؤدي إلى المزيد من الإنتاج المصطنع، والذي نسميه "هلوسات الذكاء الاصطناعي"، كما قال جيب. 

الطلاقة على الدقة

حتى نماذج الذكاء الاصطناعي الحديثة غالبا ما تعاني من هلوسات لأسباب عدة. 

في الأساس، عندما يطرح المستخدمون أسئلة غامضة أو معقدة للغاية، يواجه النموذج صعوبة في التفسير. 

قال جيب: "هذا غالبا ما يدفع النموذج إلى الاعتماد على الأنماط الإحصائية لملء الفراغات"، مما يولد استجابة تبدو كاملة، لكنها قد تكون غير دقيقة من الناحية الواقعية. 

على الرغم من أن هذه الردود تهدف إلى أن تكون مفيدة، إلا أنها قد تقدم معلومات غير صحيحة.

غالبا ما تفضل النماذج الدقيقة مع الملاحظات البشرية الإجابات الواثقة والمفيدة، مما يؤدي إلى تحيز نحو التصريحات غير الدقيقة ولكن الحازمة على حساب الردود الحذرة أو غير المؤكدة.

وتتفاقم المشكلة بسبب انخفاض معدل "عدم الاستجابة" بشكل حاد.  

الطرازات القديمة رفضت ما يقرب من 40٪ من الاستفسارات، لكن النماذج الأحدث تجيب تقريبا على كل شيء.

في المجالات الحيوية مثل السياسة والصحة، يخلق هذا الفضل للطلاقة على الدقة مخاطر خطيرة في انتشار المعلومات المضللة.

أصبح الذكاء الاصطناعي أداة أكثر شيوعا للوصول إلى المعلومات حول الأحداث الجارية، خاصة بين الفئات العمرية. 

ومن الجدير بالذكر أن 15٪ من الأشخاص تحت سن 25 يصرحون بأنهم يعتمدون على روبوتات الدردشة الذكاء الاصطناعي كمصدر رئيسي للأخبار.

"نظرا لتزايد استخدام الذكاء الاصطناعي سواء في القطاع الخاص أو في الشركات، يجب أن تكون الدقة أولوية،" قال جيب. 

الوعي ضروري

وأضاف جيب:

تشير القيود الحالية في دقة الذكاء الاصطناعي إلى أن الاستبدال الكامل للمجالات المهنية بالكامل في المستقبل القريب هو حدث احتمالية منخفض بشكل كبير، وفقا لجيب. 

ويرجع ذلك أساسا إلى أن المحترفين البشريين، في معظم المجالات، يعملون بدرجة من الحكم الدقيق، والفهم السياقي، والدقة التي تكافح أنظمة الذكاء الاصطناعي الحالية لتكرارها باستمرار. 

لذلك، يصبح خطر التهجير الواسع للوظائف حرجا فقط في الحالات التي يعتمد فيها الممارسون داخل المهنة كليا على البيانات والاستنتاجات التي قد تكون معيبة أو خاطئة أو خاطئة والتي يولدها الذكاء الاصطناعي بشكل نقدي. 

في الأساس، يعمل الذكاء الاصطناعي حاليا كأداة قوية لكنها غير كاملة، وتضمن عدم دقته أن تظل الإشراف البشري، والتفكير النقدي، والتحقق مكونات لا غنى عنها في العمل المهني.

"يجب التعامل مع التصريحات الذكاء الاصطناعي بنفس العقلية النقدية التي تعامل بها الادعاءات البشرية"، أشار جيب.