Salesforce UK-chef efterlyser skræddersyede AI-regler for virksomheder kontra forbrugerværktøjer

Salesforces britiske chef, Zahra Bahrololoumi, har givet udtryk for sine bekymringer over generelle regler for kunstig intelligens (AI) i Storbritannien og opfordret til en mere målrettet og skræddersyet tilgang.

Efterhånden som AI-landskabet udvikler sig hurtigt, er Labour-regeringens AI-politik under lup for dens potentielle indvirkning på en lang række virksomheder, der er involveret i AI-udvikling, fra forbrugervendte værktøjer som OpenAI's ChatGPT til virksomhedsfokuserede systemer såsom Salesforces AI-platforme.

Med AIs voksende rolle i brancher fra marketing til kundeservice er debatten om AI-regulering afgørende for at balancere innovation med offentlig sikkerhed.

Salesforce kræver proportionale AI-regler, efterhånden som industrien vokser

Zahra Bahrololoumi, administrerende direktør for Salesforce UK og Irland, fremhævede behovet for, at politikere skelner mellem AI-virksomheder, der udvikler forbrugerorienterede produkter, og dem, der skaber virksomheds-AI-løsninger.

Salesforces AI-systemer, såsom Agentforce AI-platformen, er designet til at understøtte virksomheder ved at automatisere opgaver som kundeservice og salgsoperationer. I modsætning til forbrugervendte AI-modeller, der ofte fungerer i et mere fleksibelt reguleringsmiljø, skal AI-værktøjer til virksomheder overholde strenge privatlivs- og sikkerhedsstandarder.

Stigende bekymringer om databeskyttelse og AI-applikationer

Et af de centrale spørgsmål, som Bahrololoumi rejser, er håndteringen af følsomme data. Salesforces "nul opbevaring"-politik sikrer, at kundedata, der bruges i dets AI-processer, aldrig gemmes i dets systemer, hvilket opretholder høje standarder for databeskyttelse.

Dette står i kontrast til forbrugervendte AI-modeller som ChatGPT eller Anthropics Claude, hvor lagring og brug af data til træningsmodeller forbliver uklar.

Databeskyttelse er fortsat et kritisk problem, da AI-teknologi bliver mere og mere integreret i den daglige drift. Enterprise AI-systemer, især dem, der bruges af virksomheder til at håndtere kundeinteraktioner, skal opfylde robuste standarder såsom General Data Protection Regulation (GDPR), som regulerer datasikkerhed og privatliv i hele EU og Storbritannien.

At differentiere virksomheds-AI fra forbruger-vendte AI-værktøjer

Bahrololoumi påpegede den grundlæggende forskel mellem forbruger- og virksomheds-AI. Virksomheder som Salesforce opererer under strengere databeskyttelsesforskrifter, hvorimod forbrugerorienterede AI-produkter måske ikke behøver at opfylde de samme standarder.

Mens virksomheders AI-værktøjer er genstand for strengere kontrol, kan den brede anvendelse af AI-regler utilsigtet hæmme væksten af AI i sektorer, hvor innovation er nøglen.

"Målrettet, proportional og skræddersyet" lovgivning er, hvad Bahrololoumi ser som afgørende for udviklingen af kunstig intelligens på tværs af forskellige industrier. Forbrugervendte AI-systemer kan kræve andre retningslinjer end forretningsorienterede løsninger, som typisk er styret af eksisterende virksomhedsbestemmelser.

Labours AI-politik

Labour-regeringen har endnu ikke fremsat et specifikt AI-lovforslag, men AI-reglerne har været forrest i den nationale debat. Regeringen har udtrykt et ønske om at støtte AI-sektorens vækst og samtidig sikre sikkerhed og retfærdighed i implementeringen på tværs af brancher.

Bahrololoumis kommentarer kommer, mens regeringen overvejer de næste skridt i udarbejdelsen af en lovgivningsramme for kunstig intelligens.

En talsmand fra Storbritanniens Department for Science, Innovation and Technology (DSIT) nævnte, at regeringens AI-regler ville målrette mod de mest kraftfulde AI-modeller i stedet for at implementere generelle regler på tværs af alle AI-applikationer.

Dette fokus kunne sikre, at virksomheder som Salesforce, der leverer AI-tjenester til virksomheder, ikke er underlagt de samme regler som virksomheder, der udvikler forbrugerorienterede teknologier.

AI-sikkerhed og etik i højsædet for virksomhedsudbydere

AI's etik og sikkerhed er topprioriteter for virksomhedsudbydere som Salesforce. Deres AI-systemer, som automatiserer forskellige forretningsfunktioner, skal sikre, at datahåndtering, privatliv og overholdelse af virksomhedens retningslinjer forbliver intakt.

Virksomhedens Agentforce-platform giver for eksempel virksomheder mulighed for at skabe selvstændige digitale agenter, der kan håndtere komplekse opgaver som kundeservice og markedsføring uden at gå på kompromis med datasikkerheden.

Efterhånden som AI fortsætter med at udvikle sig, vil udfordringen for regulatorer være at følge med i det hurtige forandringstempo og samtidig sikre, at innovation ikke kvæles. Salesforces opfordring til målrettede og forholdsmæssige reguleringer afspejler en bredere bekymring på tværs af teknologiindustrien omkring balancen mellem sikkerhed og vækst.

AI-sektoren er klar til at revolutionere industrier, men den skal være styret af en lovgivningsramme, der understøtter innovation uden at gå på kompromis med etiske standarder eller offentlig tillid.