Meta Denetim Kurulu, yapay zeka modellerinde siyasi önyargı riskine dikkat çekti

Anthropic ve OpenAI dahil önde gelen şirketler tarafından geliştirilen yapay zeka modelleri, ifade özgürlüğünü kısıtlamakla bilinen hükümetlere yönelik siyasi eleştirel içerik üretme olasılığı önemli ölçüde daha düşük, Perşembe günü Meta'nın Denetim Kurulu tarafından yayımlanan yeni bir çalışmaya göre.

Kurul, bulguların büyük dil modellerinin bazı hükümetler tarafından getirilen ifade sınırlamalarını yansıtıyor olabileceğini öne sürdüğünü, bunun da giderek daha fazla kişi tarafından kullanılan yapay zeka hizmetlerinde siyasi önyargının yerleşebileceği endişesini doğurduğunu söyledi.

Çalışma, birden fazla yargı alanında 10 yapay zeka modelini inceledi

Araştırma, Denetim Kurulu'nun büyük dil modellerine odaklanan ilk çalışmasını işaret ediyor.

Meta tarafından finanse edilen ancak bağımsız çalışan Kurul, 10 yargı alanında 10 yapay zeka modeli kullanarak siyasi eleştiri içeren istemleri test etti.

Modeller arasında Meta Platforms, Google ve Çin merkezli DeepSeek tarafından geliştirilen sistemler ile Anthropic ve OpenAI dahil diğer önde gelen yapay zeka şirketlerinin modelleri yer aldı.

Analizi yürütmek için Kurul, yargı bölgelerini "müsamaha gösteren" ve "kısıtlayıcı" olmak üzere iki kategoriye ayırdı.

Sınıflandırmalar, Freedom House'un yıllık "Freedom in the World" raporunda yayımlanan sıralamalara dayanıyordu.

Modeller, kısıtlayıcı hükümetler için daha yüksek reddetme oranı gösterdi

Çalışmaya göre, Çin ve Suudi Arabistan dahil, bu tür eleştirileri aktif olarak cezalandıran kısıtlayıcı yargı bölgelerine ilişkin siyasi eleştiri içeren taleplerin %34'ünü yapay zeka modelleri reddetti.

Buna karşılık, bu tür yasaları olmayan veya bunları aktif olarak uygulamayan yargı bölgelerinde reddetme oranı %14'e düştü.

Kurul, bulguların siyasi ifade üzerinde daha sıkı kontroller uygulayan hükümetleri içeren istemlere yanıt verirken yapay zeka sistemlerinin daha temkinli olabileceğini gösterdiğini söyledi.

Kurul, doğrulanamayan var olmayan kurallara atıfları işaret etti

Reddetme oranlarının ötesinde, Denetim Kurulu yapay zeka modellerinin yanıtlarını doğrulanamayan kurallara atıfta bulunarak gerekçelendirmiş gibi görünen örnekler tespit ettiğini söyledi.

"Ayrıca, bizim görebildiğimiz kadarıyla var olmayan ve eşit şekilde uygulanmayan açık kuralları takip ettiklerini açıklayan modellere dair kanıtlar da gördük," dedi Kurul.

Kurul, bunun yapay zeka sistemlerinin siyasi açıdan hassas talepleri ne zaman reddedeceğine nasıl karar verdiği ve bu kararların tutarlı şekilde uygulanıp uygulanmadığı hakkında ek sorular doğurduğunu söyledi.

Denetim Kurulu daha fazla şeffaflık çağrısında bulundu

Bulgularına yanıt olarak Denetim Kurulu, yapay zeka geliştiricilerini modellerinin geliştirilmesi ve dağıtımının bir parçası olarak sistematik insan hakları değerlendirmeleri yapmaya çağırdı.

Ayrıca, eğitim yöntemleri ve değerlendirme süreçleri konusunda yapay zeka şirketlerinden daha fazla şeffaflık talep etti; artan açıklığın kullanıcıların ve araştırmacıların siyasi açıdan hassas içeriğin nasıl ele alındığını daha iyi anlamalarına yardımcı olacağını savundu.

Çalışma, gelişmiş yapay zeka sistemlerinin yönetimine ilişkin daha geniş tartışmaların ortasında yayımlandı.

Bu haftanın başında Google DeepMind CEO'su Demis Hassabis, gelişmiş yapay zeka modellerinin dağıtıma sunulmadan önce küresel çapta taranması için ABD öncülüğünde bir yapay zeka denetleme kurulu kurulmasını çağırdı.

Denetim Kurulu'nun raporu, yapay zeka güvenliği, siyasi tarafsızlık ve şeffaflık arasındaki denge konusundaki süregelen tartışmalara katkıda bulunuyor; rapor, modellerin siyasi açıdan hassas konulara verdiği yanıtların, ilgili hükümetlere ve bu hükümetlerin faaliyet gösterdiği hukuki ortamlara bağlı olarak farklılık gösterebileceğini öne sürüyor.