شرح: أدوات الرقابة الأبوية الجديدة ل OpenAI ل ChatGPT وماذا تفعل

كشفت OpenAI النقاب عن أدوات رقابة أبوية جديدة قوية لروبوت الدردشة الرائد ، ChatGPT ، مما يمثل خطوة محورية نحو حماية المراهقين عبر الإنترنت.

تأتي المبادرة على خلفية القلق المتزايد بشأن تأثير الذكاء الاصطناعي على الشباب ، خاصة بعد دعوى قضائية رفيعة المستوى زعمت أن ChatGPT لعب دورا في انتحار مراهق.

كان الآباء والمعلمون والمنظمون صريحين حول حاجة شركات التكنولوجيا إلى بذل المزيد من الجهد لحماية المستخدمين الشباب من المحتوى الصريح ومخاطر الصحة العقلية.

مع اندماج روبوتات الدردشة التي تعمل بالذكاء الذكاء الاصطناعي بشكل أكبر في الحياة الرقمية للمراهقين ، فإن أحدث تدابير OpenAI في الوقت المناسب ويتم فحصها بشدة.

تهدف الضوابط الجديدة إلى منح الآباء إشرافا ذا مغزى على كيفية تفاعل أطفالهم مع ChatGPT ، مع الإشارة إلى نية OpenAI تحقيق التوازن بين الابتكار والسلامة والخصوصية في عصر التعقيد الرقمي المتزايد.

ماذا تفعل أدوات الرقابة الأبوية في OpenAI؟

تتيح أدوات الرقابة الأبوية الجديدة للآباء توجيه تجربة ابنهم المراهقين بنشاط على ChatGPT من خلال مجموعة من الخيارات.

يمكن للوالدين الآن ربط حساباتهم بأبنائهم المراهقين عبر دعوة بسيطة ، مما يجعل من الممكن التحكم في الميزات التي يمكن الوصول إليها ، ومتى يمكن استخدام روبوت الدردشة ، وحتى كيف يستجيب الذكاء الاصطناعي للمطالبات الحساسة بشكل خاص.

والجدير بالذكر أنه يمكن للوالدين تعيين "نوافذ التعتيم" ، مما يمنع استخدام ChatGPT خلال فترات محددة مثل وقت النوم أو ساعات الدراسة ، ويمكنهم تعطيل ميزات الذاكرة وسجل الدردشة لمزيد من الخصوصية.

بشكل حاسم ، توسعت بروتوكولات السلامة الخاصة ب OpenAI لتشمل تنبيهات في الوقت الفعلي للآباء إذا كانت محادثة المراهق تشير إلى ضائقة عاطفية أو إيذاء النفس ، على الرغم من عدم مشاركة نصوص الدردشة الفعلية لأسباب تتعلق بالخصوصية.

في مثل هذه الحالات من الأزمات الحادة ، قد تتضمن OpenAI وسيطا بشريا ، وعند الحاجة ، إنفاذ القانون.

تشمل الخطوات الإضافية تقييد المحتوى الصريح والجنسي للمستخدمين الذين تقل أعمارهم عن 18 عاما ، وقريبا ، تتوقع الشركة تنفيذ التحقق المحسن من العمر بالإضافة إلى نمذجة العمر التنبؤية لمزيد من حماية القاصرين.

تقول OpenAI إن هذه الضوابط هي نتيجة أشهر من التشاور مع المدافعين عن سلامة الأطفال والمتخصصين في الصحة العقلية وخبراء الخصوصية ، وأن نهجهم سيستمر في التطور مع ظهور مخاطر جديدة في مشهد الذكاء الاصطناعي سريع التغير.

حساب على سلامة الأطفال والتكنولوجيا ورفاهية المراهقين

تمتد مخاطر أدوات الرقابة الأبوية هذه إلى ما هو أبعد من ChatGPT ، حيث تتطرق إلى الحساب المجتمعي المتزايد لتأثير التكنولوجيا على رفاهية الأطفال.

شهدت السنوات الأخيرة ارتفاعا مقلقا في تقارير قلق المراهقين والتنمر عبر الإنترنت وحتى الانتحار المرتبط بتجارب عبر الإنترنت غير المصفاة.

على سبيل المثال ، أثار الانتحار المأساوي لآدم رين البالغ من العمر 16 عاما موجة من التدقيق ، وفي النهاية الدعوى القضائية التي أدت إلى تسريع استجابة OpenAI.

يجادل الآباء والمشرعون على حد سواء بأن شركات التكنولوجيا يجب أن تلعب دورا نشطا في حماية القاصرين الضعفاء ، خاصة وأن الذكاء الاصطناعي يبدأ في تولي أدوار في الرفقة والاستشارة.

تعتبر الضوابط الأبوية مثل هذه خطوة أولى ضرورية ، لكن دعاة السياسة يحذرون من أنها ليست بديلا عن أنظمة الدعم الأوسع: موارد الصحة العقلية ، والتواصل الأسري ، والمعايير الأخلاقية في التصميم التكنولوجي.

تعترف OpenAI صراحة بأن هذه الأدوات ليست سوى البداية وتقول إنها ستستمر في تحسين الضمانات ، مسترشدة بمدخلات الخبراء ونتائج العالم الحقيقي.

مع بلوغ "السكان الأصليين من الذكاء الاصطناعي" سن الرشد ، سيزداد النقاش حول السلامة والاستقلالية حدة.

في الوقت الحالي ، يشير طرح OpenAI إلى اعتراف الصناعة بأنه مع القوة الكبيرة تأتي مسؤولية كبيرة ، وهو درس لا يزال العصر الرقمي يتعلمه ، وأحيانا بتكلفة باهظة.