Dijelaskan: Kawalan ibu bapa baharu OpenAI untuk ChatGPT dan perkara yang mereka lakukan

OpenAI telah melancarkan kawalan ibu bapa baharu yang teguh untuk chatbot utamanya, ChatGPT, menandakan langkah penting ke arah melindungi remaja dalam talian.

Inisiatif itu datang dengan latar belakang kebimbangan yang semakin meningkat terhadap pengaruh AI terhadap belia, terutamanya selepas tuntutan mahkamah berprofil tinggi mendakwa ChatGPT memainkan peranan dalam bunuh diri seorang remaja.

Ibu bapa, pendidik dan pengawal selia telah menyuarakan keperluan untuk syarikat teknologi melakukan lebih banyak untuk melindungi pengguna muda daripada kandungan eksplisit dan risiko kesihatan mental.

Dengan chatbots berkuasa AI menjadi semakin disepadukan ke dalam kehidupan digital remaja, langkah terbaharu OpenAI tepat pada masanya dan sangat diteliti.

Kawalan baharu itu bertujuan untuk memberi ibu bapa pengawasan yang bermakna tentang cara anak-anak mereka berinteraksi dengan ChatGPT, sambil menandakan hasrat OpenAI untuk mengimbangi inovasi, keselamatan dan privasi dalam era kerumitan digital yang semakin meningkat.

Apakah yang dilakukan oleh kawalan ibu bapa OpenAI?

Kawalan ibu bapa baharu membolehkan ibu bapa secara aktif membimbing pengalaman remaja mereka di ChatGPT melalui set pilihan.

Ibu bapa kini boleh memautkan akaun mereka dengan remaja mereka melalui jemputan mudah, memungkinkan untuk mengawal ciri yang boleh diakses, bila chatbot boleh digunakan, dan juga cara AI bertindak balas terhadap gesaan yang sangat sensitif.

Terutama, ibu bapa boleh menetapkan "tetingkap pemadaman", menyekat penggunaan ChatGPT dalam tempoh tertentu seperti waktu tidur atau waktu belajar, dan mereka boleh melumpuhkan ciri memori dan sejarah sembang untuk privasi tambahan.

Yang penting, protokol keselamatan OpenAI telah diperluaskan untuk memasukkan makluman masa nyata untuk ibu bapa jika perbualan remaja menunjukkan tekanan emosi atau mencederakan diri sendiri, walaupun transkrip sembang sebenar tidak dikongsi atas sebab privasi.

Dalam kes krisis akut sedemikian, OpenAI mungkin melibatkan kedua-dua moderator manusia dan, apabila perlu, penguatkuasaan undang-undang.

Langkah tambahan termasuk menyekat kandungan eksplisit dan seksual untuk pengguna di bawah 18 tahun, dan tidak lama lagi, syarikat itu menjangkakan untuk melaksanakan pengesahan umur yang lebih baik serta pemodelan umur ramalan untuk melindungi lagi kanak-kanak di bawah umur.

OpenAI berkata kawalan ini adalah hasil perundingan selama berbulan-bulan dengan penyokong keselamatan kanak-kanak, profesional kesihatan mental dan pakar privasi, dan pendekatan mereka akan terus berkembang apabila risiko baharu muncul dalam landskap AI yang berubah dengan pantas.

Perhitungan mengenai keselamatan kanak-kanak, teknologi dan kesejahteraan remaja

Kepentingan untuk kawalan ibu bapa ini melangkaui ChatGPT, menyentuh perhitungan masyarakat yang semakin meningkat dengan kesan teknologi terhadap kesejahteraan kanak-kanak.

Tahun-tahun kebelakangan ini telah menyaksikan peningkatan yang membimbangkan dalam laporan kebimbangan remaja, buli siber, dan juga bunuh diri yang dikaitkan dengan pengalaman dalam talian yang tidak ditapis.

Bunuh diri tragis Adam Raine yang berusia 16 tahun, sebagai contoh, mendorong gelombang pemeriksaan, dan akhirnya tuntutan mahkamah yang mempercepatkan tindak balas OpenAI.

Ibu bapa dan penggubal undang-undang sama-sama berpendapat bahawa syarikat teknologi mesti memainkan peranan aktif dalam melindungi kanak-kanak bawah umur yang terdedah, terutamanya apabila AI mula mengambil peranan dalam persahabatan dan kaunseling.

Kawalan ibu bapa seperti ini dianggap sebagai langkah pertama yang perlu, tetapi penyokong dasar memberi amaran bahawa ia bukan pengganti sistem sokongan yang lebih luas: sumber kesihatan mental, komunikasi keluarga dan piawaian etika dalam reka bentuk teknologi.

OpenAI secara terbuka mengakui alat ini hanyalah permulaan dan mengatakan ia akan terus memperhalusi perlindungan, berpandukan input pakar dan hasil dunia sebenar.

Apabila "orang asli AI" semakin dewasa, perdebatan mengenai keselamatan dan autonomi hanya akan semakin meningkat.

Buat masa ini, pelancaran OpenAI menandakan pengiktirafan industri bahawa dengan kuasa besar datang tanggungjawab yang besar, pengajaran yang masih dipelajari oleh era digital, kadangkala dengan kos yang tinggi.