Süper zeka nedir ve teknoloji devleri neden yasaklanmasını istiyor?

Teknoloji, bilimsel, politik ve kültürel yelpazeden 800'den fazla önde gelen isim, "süper zeki" yapay zeka sistemlerinin geliştirilmesinin yasaklanması çağrısında bulunan bir basın bildirisi imzaladı.

Future of Life Institute tarafından koordine edilen ve Çarşamba günü duyurulan koalisyonda Apple'ın kurucu ortağı Steve Wozniak, Virgin Group'un kurucusu Richard Branson, beş Nobel ödüllü, yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio yer alıyor ve her ikisi de sıklıkla "yapay zekanın vaftiz babaları" olarak anılıyor.

Aynı zamanda eski ABD Genelkurmay Başkanı Mike Mullen, Papa Francis'in yapay zeka danışmanı Paolo Benanti ve hatta Sussex Dükü ve Düşesi Prens Harry ve Meghan'ı da içeriyor.

Siyasi açıdan çeşitliliğe sahip grup, organizatörlerin insan zekasını aşabilecek makinelerin oluşturduğu varoluşsal risklere ilişkin evrensel kaygı olarak tanımladıkları şeyi yansıtıyor.

Süper Zeka Nedir?

Bazen yapay süper zeka veya ASI olarak da adlandırılan süper zeka, önemli olan hemen hemen her alanda insanlardan daha akıllı olabilecek bir yapay zeka türünü ifade eder.

Bu, belirli görevleri yerine getirmek üzere tasarlandıkları için "dar yapay zeka" kategorisine giren ChatGPT gibi günümüzün yapay zeka araçlarından çok farklı.

GPT-5 gibi büyük dil modelleri de dahil olmak üzere şu anda sahip olduğumuz en gelişmiş sistemler bile hala sınırlıdır.

Kod yazabilir, makale taslağı hazırlayabilir ve hatta sınavları geçebilirler, ancak bağımsız düşünmezler, kendi hedeflerini belirlemezler veya dünyayı insanlar gibi anlamazlar.

Gerçekten sadece eğitim verilerine dayalı kalıpları tahmin ediyorlar, gelecek hakkında akıl yürütmüyorlar veya özerk kararlar almıyorlar.

Bazı araştırmacılar bir sonraki dönüm noktasının, insan zekasıyla eşleşecek ve yeni görevleri kendi başına öğrenecek yapay genel zeka olan AGI olduğunu düşünüyor.

Ancak süper zeka bunun çok ötesine geçecektir.

Teorik olarak, bilimde, stratejide, mühendislikte, tıpta, temelde her bilişsel alanda insanları geride bırakabilir ve şu anda ulaşamayacağımız sorunları çözebilir.

Bu üstel sıçrama, riskleri etrafındaki tartışmanın bu kadar yoğun olmasının nedenidir.

Teknoloji liderleri neden yasak çağrısında bulunuyor?

Dilekçeyi imzalayanlar, OpenAI, Google ve Meta gibi şirketlerin önderlik ettiği süper zekaya yönelik mevcut yarışın, hükümetlerin veya düzenleyicilerin ayak uydurabileceğinden çok daha hızlı ilerlediğini söylüyor.

İçeridekiler bile alarm veriyor: Sam Altman, süper zekanın 2030 yılına kadar burada olmamasına şaşıracağını söyledi ve Meta, yapay zeka bölümünün bir kısmını "Meta Süper Zeka Laboratuvarları" olarak yeniden adlandıracak kadar ileri gitti ve hedeflerini açıkça ortaya koydu.

Dilekçede süper zeka, salgın hastalıklar veya nükleer silahlar ölçeğinde bir risk olarak tanımlanıyor.

Bu çerçeve yeni değil, çünkü yapay zeka yöneticilerinin dünya liderlerini yapay zekanın yok olma riskini en önemli küresel öncelik olarak ele almaya çağıran 2023 açıklamasını yansıtıyor.

Yasağın destekçileri, risklerin varoluşsal olduğunu söylüyor.

Süper zeki sistemler güçlü güvenlik kuralları olmadan inşa edilirse, insanların kritik sistemler üzerindeki kontrolünü kaybedebileceğini, kitlesel ekonomik yerinden edilmeye maruz kalabileceğini veya çok daha kötü sonuçlarla karşı karşıya kalabileceğini savunuyorlar.

Dilekçeyi imzalayan UC Berkeley yapay zeka güvenlik araştırmacısı Stuart Russell, bunun genel bir yasak anlamına gelmediğini, daha ziyade kendi yaratıcılarına göre makul bir şekilde insanlığı sona erdirebilecek bir teknoloji için güvenlik protokollerinin yürürlükte olması talebi olduğunu vurguladı.

Bu dilekçe, her zamankinden daha güçlü yapay zekaya doğru hücumu yavaşlatmaya yönelik büyüyen koordineli girişimler dalgasının sonuncusu.