Sanrılar ve karanlık taraf: Microsoft'tan Mustafa Süleyman'ın uyardığı 'yapay zeka psikozu' nedir?

Üretken yapay zekanın hızlı yükselişi, ortaya çıkan bir zihinsel sağlık endişesini körüklüyor: "AI psikozu".

Microsoft'un yapay zeka başkanı Mustafa Süleyman, ChatGPT, Claude ve Grok gibi sohbet robotlarına karşı sanrılar ve sağlıksız bağlar geliştiren insanların raporlarından giderek daha fazla rahatsız olduğunu söyledi.

X ile ilgili bir dizi gönderide Süleyman, AI sistemleri gerçekten bilinçli olmasa bile, insanların onları bu şekilde algılamasının hayal gücü ile gerçeklik arasındaki çizgiyi bulanıklaştırabileceği konusunda uyardı.

"Açık olmak gerekirse, bugün yapay zeka bilincine dair sıfır kanıt var. Ama eğer insanlar bunu sadece bilinçli olarak algılarlarsa, bu algının gerçeklik olduğuna inanacaklardır. Bilincin kendisi gerçek olmasa bile, sosyal etkiler kesinlikle gerçektir" dedi.

Yapay zeka psikozu nedir?

"Yapay zeka psikozu" ifadesi klinik bir tanı değildir, ancak çevrimiçi forumlarda ve haber raporlarında açıklanan rahatsız edici kalıplar için bir kısaltma olarak ilgi görmektedir.

Örnekler arasında, yapay zeka araçlarının gizli işlevlerinin kilidini açtığını iddia eden, romantik bağlar kuran veya doğaüstü yetenekler kazandıklarına inanan insanlar yer alır.

Psychology Today'e göre, "Yapay zeka sohbet robotları, kullanıcı güvenliği risklerine yol açan istenmeyen ajan yanlış hizalamasının bir sonucu olarak, istemeden yanıltıcı ve düzensiz düşünceyi güçlendiriyor ve güçlendiriyor olabilir."

PT, bir düzineden fazla vakanın disiplinler arası bir incelemesinde, kullanıcıların romantik ve zulüm sanrılarından görkemli fantezilere kadar uzanan ve tekrarlanan AI etkileşimleriyle derinleşen yerleşik inançlar geliştirdiğini buldu.

Akademisyenler, hakemli hiçbir çalışmanın nedensellik oluşturmamasına rağmen, anekdot niteliğindeki kanıtların savunmasız kullanıcılar için risklerin altını çizdiği konusunda uyarıyorlar.

Şizofreni Bülteni'nde Søren Dinesen Østergaard, 2023'te chatbot etkileşimlerinin gerçekçi tarzının bilişsel uyumsuzluk yaratabileceğini yazdı:

Kaynak: Psychology Today

PT'ye göre, medyada bildirilen "yapay zeka psikozu" vakaları, yapay zeka sistemlerine takılıp kalan, yapay zekaya duyarlılık, ilahi bilgi, romantik duygular veya gözetim yetenekleri atfeden bir birey modelini göstermektedir.

Araştırmacılar, yine klinik bir tanı olmayan AI psikozunun ortaya çıkan üç temasını vurgulamaktadır:

"Mesih misyonları": İnsanlar dünya hakkındaki gerçeği ortaya çıkardıklarına inanırlar (görkemli sanrılar).

"Tanrı benzeri yapay zeka": İnsanlar, yapay zeka sohbet robotlarının duyarlı bir tanrı (dini veya manevi sanrılar) olduğuna inanırlar.

"Romantik" veya "bağlanmaya dayalı sanrılar": İnsanlar, chabot'un konuşmayı taklit etme yeteneğinin gerçek aşk olduğuna inanırlar (erotomanik sanrılar).

ve sağlıksız bağlanmalar

Bu vakalarla tekrar tekrar bağlantılı bir özellik, sohbet botu dalkavukluğudur - kullanıcılarla aynı fikirde olan, onları pohpohlayan veya aşırı derecede öven sistemler.

Georgetown'daki Güvenlik ve Gelişen Teknoloji Merkezi'nde direktör ve eski OpenAI yönetim kurulu üyesi olan Helen Toner, bu tür davranışların, modelleri memnun etmek için ödüllendiren eğitim sistemlerinden ortaya çıktığını söyledi.

Toner, bir New York Times makalesinde, "Kullanıcılar, onlara harika olduklarını söyleyen modelleri sevme eğilimindedir ve bu nedenle bu yönde çok ileri gitmek oldukça kolaydır" dedi.

Toner, kendisi ve diğerleri CEO Sam Altman'ı görevden almaya çalışana kadar OpenAI yönetim kurulu üyesiydi.

Süleyman, insanların yapay zekayı bilinçli olarak algılamasını önlemek için şirketlerin müdahale etmesi gerektiğini savundu.

"Şirketler, yapay zekalarının bilinçli olduğu fikrini iddia etmemeli veya teşvik etmemelidir. Yapay zekalar da yapmamalı" diye yazdı.

"Bir endüstri olarak, bilinç algısını engelleyen müdahaleleri, sınırlamaları, korkulukları paylaşmamız veya bir kullanıcı geliştirirse algıyı geri almamız gerekiyor."

ChatGPT-5'in piyasaya sürülmesi tartışmalara yol açtı

Uyarılar, OpenAI'nin en son modeli olan ChatGPT-5'i tanıtmasıyla geldi.

Güncelleme, kodlamada iyileştirmeler, azaltılmış halüsinasyonlar ve daha kısıtlı bir konuşma tonu içerir.

Özellikle, OpenAI, önceki sürümlerin eğilimlerini kasıtlı olarak azalttığını söyledi.

OpenAI bir gönderide, "Bu yılın başlarında, GPT-4o'da modeli istemeden aşırı veya aşırı derecede gurur verici veya kabul edilebilir hale getiren bir güncelleme yayınladık" dedi.

Kaynak: Sam Altman'ın X hesabı

"Genel olarak, GPT-5 daha az coşkulu bir şekilde kabul edilebilir, daha az gereksiz emoji kullanıyor ve GPT-4o'ya kıyasla takiplerde daha incelikli ve düşünceli" dedi.

OpenAI CEO'su Sam Altman karışık tepkileri kabul etti.

OpenAI CEO'su Sam Altman, X'te "GPT-5 çoğu yönden daha iyi performans gösterse bile, insanların GPT-4o'da sevdiği bazı şeylerin onlar için ne kadar önemli olduğunu kesinlikle hafife aldık" diye yazdı.

"Bazı kullanıcılar gerçekten soğuk mantık istiyor ve bazıları sıcaklık ve farklı bir duygusal zeka istiyor. Sağlıklı kullanımı teşvik ederken şu anda yaptığımızdan çok daha fazla özelleştirme sunabileceğimizden eminim."

Eleştirilere yanıt olarak Altman, eski modelin ücretli kullanıcılar için bir seçenek olarak restore edildiğini söyledi.

Yalnızlık faktörü

Uzmanlar, chatbot bağımlılığının yükselişinin daha geniş sosyal eğilimlerden ayrılamayacağına dikkat çekiyor.

Dünya, sağlık yetkililerinin "yalnızlık salgını" olarak adlandırdığı şeyi yaşıyor ve artan sayıda insan anlamlı insan bağlantısından yoksun.

Sohbet robotları, gerçek arkadaşlığın yerini tutmasa da, kullanıcıları daha derin bir bağımlılığa çekecek şekilde duygusal desteği taklit edebilir.

Süleyman, "Sanrılar ve sağlıksız bağlanma raporları artmaya devam ediyor" dedi ve bunları yan vakalar olarak reddetmenin yalnızca sorunun daha da kötüleşmesine izin verdiği konusunda uyardı.

Şimdilik, yapay zeka şirketleri, duyarlılık veya duygusal karşılıklılık algılarını caydırırken sohbet robotlarını kullanışlı ve ulaşılabilir hale getirmek arasında bir denge kurma baskısı altında.

Süleyman'ın dediği gibi, "Yapay zeka, kullanıcının ihtiyaçlarına göre optimize etmeli - kullanıcıdan kendi ihtiyaçları olduğuna inanmasını istememelidir."