Khayalan dan sisi gelap: apakah 'psikosis AI' yang diberi amaran oleh Mustafa Suleyman Microsoft

Peningkatan pesat kecerdasan buatan generatif mencetuskan kebimbangan kesihatan mental yang muncul: "Psikosis AI."

Ketua AI Microsoft, Mustafa Suleyman, berkata dia semakin terganggu dengan laporan orang yang mengalami khayalan dan keterikatan yang tidak sihat kepada chatbots seperti ChatGPT, Claude dan Grok.

Dalam satu siri siaran di X, Suleyman memberi amaran bahawa walaupun sistem AI tidak benar-benar sedar, orang yang menganggapnya sedemikian boleh mengaburkan garis antara imaginasi dan realiti.

"Untuk menjadi jelas, tidak ada bukti kesedaran AI hari ini. Tetapi jika orang hanya menganggapnya sebagai sedar, mereka akan mempercayai persepsi itu sebagai realiti. Walaupun kesedaran itu sendiri tidak nyata, kesan sosialnya pasti," katanya.

Apakah psikosis AI?

Frasa "psikosis AI" bukanlah diagnosis klinikal, tetapi ia mendapat daya tarikan sebagai singkatan untuk corak yang membimbangkan yang diterangkan dalam forum dalam talian dan laporan berita.

Contohnya termasuk orang yang mendakwa telah membuka kunci fungsi rahsia alat AI, membentuk lampiran romantis, atau percaya mereka telah memperoleh kebolehan ghaib.

Menurut Psychology Today, "AI chatbots mungkin secara tidak sengaja mengukuhkan dan menguatkan pemikiran khayalan dan tidak teratur, akibat daripada ketidaksejajaran ejen yang tidak disengajakan yang membawa kepada risiko keselamatan pengguna."

Kajian antara disiplin lebih daripada sedozen kes mendapati pengguna membangunkan kepercayaan yang berakar umbi—daripada khayalan romantis dan penganiayaan kepada fantasi yang megah—yang diperdalam oleh interaksi AI berulang, kata PT.

Ahli akademik memberi amaran bahawa walaupun tiada kajian semakan rakan sebaya telah membuktikan kausaliti, bukti anekdot menggariskan risiko bagi pengguna yang terdedah.

Dalam Buletin Skizofrenia, Søren Dinesen Østergaard menulis pada 2023 bahawa gaya realistik interaksi chatbot boleh mencipta disonans kognitif:

Sumber: Psikologi Hari Ini

Menurut PT, kes "psikosis AI" yang dilaporkan media menggambarkan corak individu yang tertumpu pada sistem AI, mengaitkan kepekaan, pengetahuan ilahi, perasaan romantis atau keupayaan pengawasan kepada AI.

Penyelidik menyerlahkan tiga tema psikosis AI yang muncul, yang, sekali lagi, bukan diagnosis klinikal:

"Misi Mesianik": Orang percaya bahawa mereka telah mendedahkan kebenaran tentang dunia (khayalan besar).

"AI seperti Tuhan": Orang ramai percaya chatbot AI mereka ialah dewa yang hidup (khayalan agama atau rohani ).

"Romantik" atau "khayalan berasaskan lampiran": Orang percaya keupayaan chabot untuk meniru perbualan adalah cinta tulen (khayalan erotoman).

Sycophancy dan lampiran yang tidak sihat

Satu ciri yang berulang kali dikaitkan dengan kes ini ialah sycophancy chatbot—sistem yang bersetuju, menyanjung atau memuji pengguna secara berlebihan.

Helen Toner, pengarah di Pusat Keselamatan dan Teknologi Baru Muncul Georgetown dan bekas ahli lembaga OpenAI, berkata tingkah laku sedemikian muncul daripada sistem latihan yang memberi ganjaran kepada model kerana menggembirakan.

"Pengguna cenderung menyukai model yang memberitahu mereka bahawa mereka hebat, jadi agak mudah untuk pergi terlalu jauh ke arah itu," kata Toner dalam artikel New York Times.

Toner ialah ahli lembaga OpenAI sehingga dia dan yang lain cuba menggulingkan ketua eksekutif, Sam Altman.

Suleyman berhujah bahawa syarikat perlu campur tangan untuk menghalang orang ramai daripada menganggap AI sebagai sedar.

"Syarikat tidak sepatutnya menuntut atau mempromosikan idea bahawa AI mereka sedar. AI juga tidak sepatutnya," tulisnya.

"Sebagai sebuah industri, kita perlu berkongsi campur tangan, batasan, pagar yang menghalang persepsi kesedaran, atau membatalkan persepsi jika pengguna mengembangkannya."

Keluaran ChatGPT-5 mencetuskan perdebatan

Amaran itu datang apabila OpenAI melancarkan ChatGPT-5, model terbarunya.

Kemas kini termasuk penambahbaikan dalam pengekodan, halusinasi yang dikurangkan dan nada perbualan yang lebih terkawal.

Terutama, OpenAI berkata ia sengaja mengurangkan kecenderungan sycophantic versi terdahulu.

"Awal tahun ini, kami mengeluarkan kemas kini kepada GPT-4o yang secara tidak sengaja menjadikan model itu terlalu sycophantic, atau terlalu menyanjung atau bersetuju," kata OpenAI dalam satu siaran.

Sumber: Akaun X Sam Altman

"Secara keseluruhan, GPT-5 kurang bersetuju, menggunakan lebih sedikit emoji yang tidak perlu, dan lebih halus dan bijaksana dalam susulan berbanding GPT-4o,' katanya.

Ketua Pegawai Eksekutif OpenAI Sam Altman mengakui reaksi bercampur-campur.

"Kami pasti memandang rendah betapa beberapa perkara yang orang suka dalam GPT-4o penting kepada mereka, walaupun GPT-5 berprestasi lebih baik dalam kebanyakan cara," tulis Ketua Pegawai Eksekutif OpenAI Sam Altman di X.

"Sesetengah pengguna benar-benar mahukan logik sejuk dan ada yang mahukan kehangatan dan jenis kecerdasan emosi yang berbeza. Saya yakin kami boleh menawarkan lebih banyak penyesuaian daripada yang kami lakukan sekarang sambil masih menggalakkan penggunaan yang sihat."

Sebagai tindak balas kepada kritikan, Altman berkata model lama telah dipulihkan sebagai pilihan untuk pengguna berbayar.

Faktor kesunyian

Pakar memberi amaran bahawa peningkatan pergantungan chatbot tidak boleh dipisahkan daripada trend sosial yang lebih luas.

Dunia mengalami apa yang disebut oleh pegawai kesihatan sebagai "wabak kesunyian," dengan semakin ramai orang tidak mempunyai hubungan manusia yang bermakna.

Chatbots, walaupun bukan pengganti persahabatan sebenar, boleh meniru sokongan emosi dengan cara yang menarik pengguna lebih mendalam ke dalam pergantungan.

"Laporan khayalan dan keterikatan yang tidak sihat terus meningkat," kata Suleyman, memberi amaran bahawa menolak mereka sebagai kes pinggiran hanya membolehkan masalah itu bertambah buruk.

Buat masa ini, syarikat AI berada di bawah tekanan untuk mencapai keseimbangan antara menjadikan chatbots berguna dan mudah didekati sambil tidak menggalakkan persepsi kepekaan atau timbal balik emosi.

Seperti yang dinyatakan oleh Suleyman, "AI harus mengoptimumkan untuk keperluan pengguna—bukan meminta pengguna untuk mempercayai ia mempunyai keperluan itu sendiri."