Ketua Salesforce UK meminta peraturan AI yang disesuaikan untuk alat perusahaan vs pengguna

Ketua Salesforce UK, Zahra Bahrololoumi, telah menyuarakan kebimbangannya tentang peraturan menyeluruh mengenai kecerdasan buatan (AI) di UK, meminta pendekatan yang lebih disasarkan dan disesuaikan.

Memandangkan landskap AI berkembang pesat, dasar AI kerajaan Buruh sedang diteliti untuk potensi kesannya ke atas pelbagai syarikat yang terlibat dalam pembangunan AI, daripada alat yang dihadapi pengguna seperti ChatGPT OpenAI kepada sistem tertumpu perusahaan seperti platform AI Salesforce.

Dengan peranan AI yang semakin meningkat dalam industri daripada pemasaran kepada perkhidmatan pelanggan, perdebatan mengenai peraturan AI adalah penting untuk mengimbangi inovasi dengan keselamatan awam.

Salesforce memerlukan peraturan AI yang berkadar apabila industri berkembang

Zahra Bahrololoumi, Ketua Pegawai Eksekutif Salesforce UK dan Ireland, menekankan keperluan bagi penggubal dasar untuk membezakan antara syarikat AI yang membangunkan produk yang dihadapi pengguna dan mereka yang mencipta penyelesaian AI perusahaan.

Sistem AI Salesforce, seperti platform AI Agentforce, direka bentuk untuk menyokong perniagaan dengan mengautomasikan tugas seperti perkhidmatan pelanggan dan operasi jualan. Tidak seperti model AI yang dihadapi pengguna yang sering beroperasi dalam persekitaran kawal selia yang lebih fleksibel, alatan AI perusahaan mesti mematuhi piawaian privasi dan keselamatan yang ketat.

Kebimbangan yang semakin meningkat tentang privasi data dan aplikasi AI

Salah satu isu utama yang dibangkitkan oleh Bahrololoumi ialah pengendalian data sensitif. Dasar "pengekalan sifar" Salesforce memastikan bahawa data pelanggan yang digunakan dalam proses AInya tidak pernah disimpan dalam sistemnya, mengekalkan piawaian privasi data yang tinggi.

Ini berbeza dengan model AI yang dihadapi pengguna seperti ChatGPT atau Anthropic's Claude, di mana penyimpanan dan penggunaan data untuk model latihan masih tidak jelas.

Privasi data kekal menjadi kebimbangan kritikal kerana teknologi AI menjadi semakin tertanam dalam operasi harian. Sistem AI perusahaan, terutamanya yang digunakan oleh perniagaan untuk mengendalikan interaksi pelanggan, mesti memenuhi piawaian teguh seperti Peraturan Perlindungan Data Umum (GDPR), yang mengawal keselamatan dan privasi data di seluruh Kesatuan Eropah dan UK.

Membezakan AI perusahaan daripada alat AI yang dihadapi pengguna

Bahrololoumi menunjukkan perbezaan asas antara AI pengguna dan perusahaan. Syarikat seperti Salesforce beroperasi di bawah peraturan perlindungan data yang lebih ketat, manakala produk AI yang dihadapi pengguna mungkin tidak perlu memenuhi piawaian yang sama.

Walaupun alat AI perusahaan tertakluk kepada pemeriksaan yang lebih ketat, aplikasi meluas peraturan AI secara tidak sengaja boleh menghalang pertumbuhan AI dalam sektor yang inovasi adalah penting.

Perundangan "bersasar, berkadar dan disesuaikan" ialah perkara yang dilihat oleh Bahrololoumi sebagai penting untuk pembangunan AI merentas industri yang berbeza. Sistem AI yang dihadapi pengguna mungkin memerlukan garis panduan yang berbeza daripada penyelesaian berorientasikan perniagaan, yang biasanya dikawal oleh peraturan korporat sedia ada.

Dasar AI Buruh

Kerajaan Buruh belum lagi memperkenalkan rang undang-undang AI khusus, tetapi peraturan AI telah berada di barisan hadapan perdebatan nasional. Kerajaan telah menyatakan hasrat untuk menyokong pertumbuhan sektor AI sambil memastikan keselamatan dan keadilan dalam pelaksanaannya merentas industri.

Komen Bahrololoumi datang ketika kerajaan mempertimbangkan langkah seterusnya dalam merangka rangka kerja kawal selia untuk AI.

Jurucakap dari Jabatan Sains, Inovasi dan Teknologi (DSIT) UK menyebut bahawa peraturan AI kerajaan akan menyasarkan model AI yang paling berkuasa daripada melaksanakan peraturan menyeluruh merentas semua aplikasi AI.

Tumpuan ini boleh memastikan bahawa syarikat seperti Salesforce, yang menyediakan perkhidmatan AI perusahaan, tidak tertakluk kepada peraturan yang sama seperti firma yang membangunkan teknologi yang dihadapi pengguna.

Keselamatan dan etika AI di barisan hadapan untuk penyedia perusahaan

Etika dan keselamatan AI adalah keutamaan utama bagi penyedia perusahaan seperti Salesforce. Sistem AI mereka, yang mengautomasikan pelbagai fungsi perniagaan, mesti memastikan pengendalian data, privasi dan pematuhan garis panduan korporat kekal utuh.

Platform Agentforce syarikat, misalnya, membolehkan perniagaan mencipta ejen digital autonomi yang boleh mengendalikan tugas yang rumit seperti perkhidmatan pelanggan dan pemasaran tanpa menjejaskan keselamatan data.

Memandangkan AI terus berkembang, cabaran bagi pengawal selia adalah untuk mengikuti kadar perubahan yang pantas sambil memastikan bahawa inovasi tidak disekat. Seruan Salesforce untuk peraturan yang disasarkan dan berkadar mencerminkan kebimbangan yang lebih luas di seluruh industri teknologi tentang keseimbangan antara keselamatan dan pertumbuhan.

Sektor AI bersedia untuk merevolusikan industri, tetapi ia mesti dikawal oleh rangka kerja kawal selia yang menyokong inovasi tanpa menjejaskan piawaian etika atau kepercayaan awam.