Salesforce UK başkanı, kurumsal ve tüketici araçları için özel yapay zeka düzenlemeleri çağrısında bulundu

Salesforce İngiltere Başkanı Zahra Bahrololoumi, İngiltere'de yapay zeka (YZ) konusunda uygulanan genel düzenlemeler hakkındaki endişelerini dile getirerek, daha hedef odaklı ve kişiye özel bir yaklaşım çağrısında bulundu.

Yapay zeka alanı hızla gelişirken, İşçi Partisi hükümetinin yapay zeka politikası, OpenAI'nin ChatGPT gibi tüketici odaklı araçlardan Salesforce'un yapay zeka platformları gibi kurumsal odaklı sistemlere kadar yapay zeka geliştirmeyle uğraşan çok çeşitli şirketler üzerindeki potansiyel etkisi açısından inceleme altında.

Pazarlamadan müşteri hizmetlerine kadar birçok sektörde yapay zekanın giderek artan rolüyle birlikte, yapay zeka düzenlemeleri konusundaki tartışmalar, inovasyonu kamu güvenliğiyle dengelemek açısından kritik önem taşıyor.

Salesforce, sektör büyüdükçe orantılı yapay zeka düzenlemeleri çağrısında bulunuyor

Salesforce İngiltere ve İrlanda CEO'su Zahra Bahrololoumi, politika yapıcıların tüketiciye yönelik ürünler geliştiren yapay zeka şirketleri ile kurumsal yapay zeka çözümleri oluşturan şirketler arasında ayrım yapması gerektiğini vurguladı.

Salesforce'un AI sistemleri, Agentforce AI platformu gibi, müşteri hizmetleri ve satış operasyonları gibi görevleri otomatikleştirerek işletmeleri desteklemek için tasarlanmıştır. Genellikle daha esnek bir düzenleyici ortamda faaliyet gösteren tüketiciye yönelik AI modellerinin aksine, kurumsal AI araçları katı gizlilik ve güvenlik standartlarına uymalıdır.

Veri gizliliği ve yapay zeka uygulamalarıyla ilgili artan endişeler

Bahrololoumi'nin gündeme getirdiği temel konulardan biri hassas verilerin işlenmesidir. Salesforce'un "sıfır saklama" politikası, AI süreçlerinde kullanılan müşteri verilerinin hiçbir zaman sistemlerinde saklanmamasını sağlayarak yüksek veri gizliliği standartlarını korur.

Bu durum, verilerin eğitim modelleri için depolanması ve kullanımının belirsizliğini koruduğu ChatGPT veya Anthropic'in Claude gibi tüketiciye yönelik yapay zeka modelleriyle çelişiyor.

Yapay zeka teknolojisi günlük operasyonlara giderek daha fazla yerleştikçe veri gizliliği kritik bir endişe olmaya devam ediyor. Özellikle işletmeler tarafından müşteri etkileşimlerini yönetmek için kullanılan kurumsal yapay zeka sistemleri, Avrupa Birliği ve Birleşik Krallık genelinde veri güvenliğini ve gizliliğini yöneten Genel Veri Koruma Yönetmeliği (GDPR) gibi sağlam standartları karşılamalıdır.

Kurumsal AI'yı tüketiciye yönelik AI araçlarından farklılaştırma

Bahrololoumi, tüketici ve kurumsal AI arasındaki temel farkı vurguladı. Salesforce gibi şirketler daha katı veri koruma düzenlemeleri altında faaliyet gösterirken, tüketiciye yönelik AI ürünlerinin aynı standartları karşılaması gerekmeyebilir.

Kurumsal yapay zeka araçları daha sıkı denetimlere tabi tutulurken, yapay zeka düzenlemelerinin geniş çapta uygulanması, inovasyonun kilit önem taşıdığı sektörlerde yapay zekanın büyümesini istemeden engelleyebilir.

Bahrololoumi, AI'nın farklı endüstrilerde geliştirilmesi için "hedefli, orantılı ve özelleştirilmiş" mevzuatın elzem olduğunu düşünüyor. Tüketiciye yönelik AI sistemleri, genellikle mevcut kurumsal düzenlemeler tarafından yönetilen iş odaklı çözümlerden farklı yönergeler gerektirebilir.

İşçi Partisi'nin yapay zeka politikası

İşçi Partisi hükümeti henüz belirli bir AI tasarısı sunmadı, ancak AI düzenlemeleri ulusal tartışmaların ön saflarında yer aldı. Hükümet, AI sektörünün büyümesini desteklerken, endüstriler genelinde uygulanmasında güvenliği ve adaleti sağlama isteğini dile getirdi.

Bahrololoumi'nin yorumları, hükümetin yapay zeka için düzenleyici bir çerçeve oluşturma yolunda atılacak bir sonraki adımları değerlendirdiği sırada geldi.

İngiltere Bilim, Yenilik ve Teknoloji Bakanlığı'ndan (DSIT) bir sözcü, hükümetin yapay zeka kurallarının tüm yapay zeka uygulamalarına genel düzenlemeler getirmek yerine en güçlü yapay zeka modellerini hedef alacağını belirtti.

Bu odaklanma, Salesforce gibi kurumsal yapay zeka hizmetleri sağlayan şirketlerin, tüketiciye yönelik teknolojiler geliştiren şirketlerle aynı düzenlemelere tabi olmamasını sağlayabilir.

Kurumsal sağlayıcılar için yapay zeka güvenliği ve etiği ön planda

Yapay zekanın etiği ve güvenliği, Salesforce gibi kurumsal sağlayıcılar için en önemli önceliklerdir. Çeşitli işlevleri otomatikleştiren yapay zeka sistemleri, veri işleme, gizlilik ve kurumsal yönergelere uyumluluğun bozulmadan kalmasını sağlamalıdır.

Örneğin şirketin Agentforce platformu, işletmelerin veri güvenliğini tehlikeye atmadan müşteri hizmetleri ve pazarlama gibi karmaşık görevleri yerine getirebilen otonom dijital aracılar oluşturmasına olanak tanıyor.

Yapay zeka gelişmeye devam ettikçe, düzenleyicilerin karşı karşıya kalacağı zorluk, yeniliğin engellenmemesini sağlarken değişimin hızlı temposuna ayak uydurmak olacaktır. Salesforce'un hedefli ve orantılı düzenlemeler çağrısı, teknoloji sektöründe güvenlik ve büyüme arasındaki denge konusunda daha geniş bir endişeyi yansıtmaktadır.

Yapay zeka sektörü endüstrilerde devrim yaratmaya hazır, ancak etik standartlardan veya kamu güveninden ödün vermeden inovasyonu destekleyen düzenleyici bir çerçeve tarafından yönetilmesi gerekiyor.