Salesforce-sjef i Storbritannia etterlyser skreddersydde AI-forskrifter for bedrifts- kontra forbrukerverktøy

Salesforces britiske sjef, Zahra Bahrololoumi, har gitt uttrykk for sine bekymringer om generelle regler for kunstig intelligens (AI) i Storbritannia, og etterlyser en mer målrettet og skreddersydd tilnærming.

Ettersom AI-landskapet utvikler seg raskt, er Labour-regjeringens AI-politikk under gransking for dens potensielle innvirkning på et bredt spekter av selskaper som er involvert i AI-utvikling, fra forbrukerrettede verktøy som OpenAIs ChatGPT til bedriftsfokuserte systemer som Salesforces AI-plattformer.

Med den økende rollen til AI i bransjer fra markedsføring til kundeservice, er debatten om AI-regulering avgjørende for å balansere innovasjon med offentlig sikkerhet.

Salesforce krever proporsjonale AI-forskrifter etter hvert som industrien vokser

Zahra Bahrololoumi, administrerende direktør i Salesforce Storbritannia og Irland, fremhevet behovet for beslutningstakere til å skille mellom AI-selskaper som utvikler forbrukerrettede produkter og de som lager AI-løsninger for bedrifter.

Salesforces AI-systemer, som Agentforce AI-plattformen, er designet for å støtte virksomheter ved å automatisere oppgaver som kundeservice og salgsoperasjoner. I motsetning til forbrukervendte AI-modeller som ofte opererer i et mer fleksibelt reguleringsmiljø, må AI-verktøy for bedrifter overholde strenge personvern- og sikkerhetsstandarder.

Økende bekymringer for personvern og AI-applikasjoner

Et av hovedspørsmålene Bahrololoumi tar opp er håndteringen av sensitive data. Salesforces retningslinjer for "null oppbevaring" sikrer at kundedata som brukes i AI-prosessene, aldri lagres i systemene, og opprettholder høye standarder for personvern.

Dette står i kontrast til forbrukervendte AI-modeller som ChatGPT eller Anthropics Claude, hvor lagring og bruk av data for treningsmodeller fortsatt er uklart.

Datapersonvern er fortsatt et kritisk problem ettersom AI-teknologi blir stadig mer innebygd i daglig drift. Enterprise AI-systemer, spesielt de som brukes av bedrifter til å håndtere kundeinteraksjoner, må oppfylle robuste standarder som General Data Protection Regulation (GDPR), som regulerer datasikkerhet og personvern i EU og Storbritannia.

Skille enterprise AI fra forbrukerrettet AI-verktøy

Bahrololoumi påpekte den grunnleggende forskjellen mellom forbruker- og bedrifts-AI. Selskaper som Salesforce opererer under strengere databeskyttelsesforskrifter, mens forbrukervendte AI-produkter kanskje ikke trenger å oppfylle de samme standardene.

Mens AI-verktøy for bedrifter er gjenstand for strengere kontroller, kan den brede anvendelsen av AI-reguleringer utilsiktet hindre veksten av AI i sektorer der innovasjon er nøkkelen.

"Målrettet, proporsjonal og skreddersydd" lovgivning er det Bahrololoumi ser som avgjørende for utviklingen av kunstig intelligens på tvers av ulike bransjer. Forbrukerrettede AI-systemer kan kreve andre retningslinjer enn forretningsorienterte løsninger, som vanligvis styres av eksisterende bedriftsbestemmelser.

Labours AI-politikk

Arbeiderpartiets regjering har ennå ikke innført et spesifikt AI-lovforslag, men AI-regelverket har vært i forkant av nasjonal debatt. Regjeringen har uttrykt et ønske om å støtte AI-sektorens vekst og samtidig sikre sikkerhet og rettferdighet i implementeringen på tvers av bransjer.

Bahrololoumis kommentarer kommer mens regjeringen vurderer de neste trinnene i å lage et regelverk for AI.

En talsperson fra Storbritannias avdeling for vitenskap, innovasjon og teknologi (DSIT) nevnte at regjeringens AI-regler ville målrette mot de kraftigste AI-modellene i stedet for å implementere generelle forskrifter på tvers av alle AI-applikasjoner.

Dette fokuset kan sikre at selskaper som Salesforce, som tilbyr AI-tjenester for bedrifter, ikke er underlagt de samme reguleringene som firmaer som utvikler forbrukerrettet teknologi.

AI sikkerhet og etikk i forkant for bedriftsleverandører

Etikken og sikkerheten til AI er toppprioriteter for bedriftsleverandører som Salesforce. AI-systemene deres, som automatiserer ulike forretningsfunksjoner, må sikre at datahåndtering, personvern og overholdelse av bedriftens retningslinjer forblir intakt.

Selskapets Agentforce-plattform lar for eksempel bedrifter lage autonome digitale agenter som kan håndtere komplekse oppgaver som kundeservice og markedsføring uten å gå på bekostning av datasikkerheten.

Ettersom AI fortsetter å utvikle seg, vil utfordringen for regulatorer være å holde tritt med det raske endringstakten samtidig som man sikrer at innovasjon ikke blir kvalt. Salesforces krav om målrettede og forholdsmessige reguleringer reflekterer en bredere bekymring over hele teknologibransjen om balansen mellom sikkerhet og vekst.

AI-sektoren er klar til å revolusjonere bransjer, men den må styres av et regulatorisk rammeverk som støtter innovasjon uten å kompromittere etiske standarder eller offentlig tillit.