Salesforce UK-directeur roept op tot op maat gemaakte AI-regelgeving voor zakelijke versus consumententools

Zahra Bahrololoumi, directeur van Salesforce in het Verenigd Koninkrijk, heeft haar zorgen geuit over de algemene regelgeving op het gebied van kunstmatige intelligentie (AI) in het Verenigd Koninkrijk en roept op tot een meer gerichte en op maat gemaakte aanpak.

Nu het AI-landschap zich snel ontwikkelt, wordt het AI-beleid van de Labour-regering kritisch bekeken vanwege de mogelijke impact ervan op een breed scala aan bedrijven die betrokken zijn bij AI-ontwikkeling, van hulpmiddelen voor consumenten zoals ChatGPT van OpenAI tot systemen gericht op ondernemingen zoals de AI-platformen van Salesforce.

Nu AI een steeds grotere rol speelt in sectoren als marketing en klantenservice, is het debat over AI-regulering van cruciaal belang om innovatie en openbare veiligheid in evenwicht te brengen.

Salesforce roept op tot proportionele AI-regelgeving naarmate de industrie groeit

Zahra Bahrololoumi, CEO van Salesforce UK en Ierland, benadrukte de noodzaak voor beleidsmakers om onderscheid te maken tussen AI-bedrijven die producten voor de consument ontwikkelen en bedrijven die AI-oplossingen voor ondernemingen creëren.

De AI-systemen van Salesforce, zoals het Agentforce AI-platform, zijn ontworpen om bedrijven te ondersteunen door taken zoals klantenservice en verkoopactiviteiten te automatiseren. In tegenstelling tot consumentgerichte AI-modellen die vaak in een flexibelere regelgevingsomgeving opereren, moeten AI-tools voor bedrijven voldoen aan strenge privacy- en beveiligingsnormen.

Toenemende zorgen over dataprivacy en AI-toepassingen

Een van de belangrijkste kwesties die Bahrololoumi aankaart, is de verwerking van gevoelige gegevens. Het "zero retention"-beleid van Salesforce zorgt ervoor dat klantgegevens die in zijn AI-processen worden gebruikt, nooit in zijn systemen worden opgeslagen, waardoor hoge normen voor gegevensprivacy worden gehandhaafd.

Dit staat in contrast met AI-modellen voor consumenten, zoals ChatGPT of Claude van Anthropic. Hierbij blijft de opslag en het gebruik van gegevens voor trainingsmodellen onduidelijk.

Gegevensprivacy blijft een kritieke zorg, aangezien AI-technologie steeds meer wordt ingebed in dagelijkse activiteiten. Enterprise AI-systemen, met name die welke door bedrijven worden gebruikt om klantinteracties af te handelen, moeten voldoen aan robuuste normen zoals de Algemene Verordening Gegevensbescherming (AVG), die de gegevensbeveiliging en privacy in de Europese Unie en het VK regelt.

Onderscheid maken tussen AI voor bedrijven en AI-tools voor consumenten

Bahrololoumi wees op het fundamentele verschil tussen consumenten- en bedrijfs-AI. Bedrijven als Salesforce opereren onder strengere regelgeving voor gegevensbescherming, terwijl consumentengerichte AI-producten mogelijk niet aan dezelfde normen hoeven te voldoen.

Hoewel AI-tools voor bedrijven aan strengere controles worden onderworpen, kan de brede toepassing van AI-regelgeving onbedoeld de groei van AI belemmeren in sectoren waar innovatie van cruciaal belang is.

"Gerichte, proportionele en op maat gemaakte" wetgeving is wat Bahrololoumi als essentieel ziet voor de ontwikkeling van AI in verschillende sectoren. AI-systemen voor consumenten vereisen mogelijk andere richtlijnen dan oplossingen voor bedrijven, die doorgaans worden beheerst door bestaande bedrijfsvoorschriften.

Het AI-beleid van Labour

De Labour-regering heeft nog geen specifieke AI-wet ingediend, maar AI-regelgeving staat voorop in het nationale debat. De regering heeft de wens uitgesproken om de groei van de AI-sector te ondersteunen en tegelijkertijd de veiligheid en eerlijkheid bij de implementatie ervan in alle sectoren te waarborgen.

Bahrololoumi's opmerkingen komen op een moment dat de overheid nadenkt over de volgende stappen in het creëren van een regelgevingskader voor AI.

Een woordvoerder van het Britse ministerie voor Wetenschap, Innovatie en Technologie (DSIT) gaf aan dat de AI-regels van de overheid zich richten op de krachtigste AI-modellen in plaats van dat er algemene regelgeving wordt ingevoerd voor alle AI-toepassingen.

Deze focus zou ervoor kunnen zorgen dat bedrijven als Salesforce, die AI-diensten voor bedrijven leveren, niet aan dezelfde regels worden onderworpen als bedrijven die technologieën voor consumenten ontwikkelen.

AI-veiligheid en -ethiek staan voorop voor zakelijke leveranciers

De ethiek en veiligheid van AI zijn topprioriteiten voor enterprise providers zoals Salesforce. Hun AI-systemen, die verschillende bedrijfsfuncties automatiseren, moeten ervoor zorgen dat gegevensverwerking, privacy en naleving van bedrijfsrichtlijnen intact blijven.

Met het Agentforce-platform van het bedrijf kunnen bedrijven bijvoorbeeld autonome digitale agenten creëren die complexe taken als klantenservice en marketing kunnen uitvoeren zonder dat dit ten koste gaat van de gegevensbeveiliging.

Naarmate AI zich verder ontwikkelt, zal de uitdaging voor regelgevers zijn om gelijke tred te houden met het snelle tempo van verandering en tegelijkertijd te zorgen dat innovatie niet wordt onderdrukt. Salesforce's oproep voor gerichte en proportionele regelgeving weerspiegelt een bredere bezorgdheid in de tech-industrie over de balans tussen veiligheid en groei.

De AI-sector staat op het punt om een revolutie teweeg te brengen in de industrie, maar moet wel worden aangestuurd door een regelgevingskader dat innovatie ondersteunt, zonder dat dit ten koste gaat van ethische normen of het vertrouwen van het publiek.