Chef von Salesforce UK fordert maßgeschneiderte KI-Vorschriften für Unternehmens- und Verbrauchertools

Zahra Bahrololoumi, Chefin von Salesforce in Großbritannien, hat ihre Bedenken hinsichtlich pauschalen Vorschriften für künstliche Intelligenz (KI) in Großbritannien geäußert und einen gezielteren und maßgeschneiderten Ansatz gefordert.

Da sich die KI-Landschaft rasant weiterentwickelt, wird die KI-Politik der Labour-Regierung hinsichtlich ihrer möglichen Auswirkungen auf eine breite Palette von Unternehmen, die an der KI-Entwicklung beteiligt sind, genau unter die Lupe genommen – von verbraucherorientierten Tools wie ChatGPT von OpenAI bis hin zu unternehmensorientierten Systemen wie den KI-Plattformen von Salesforce.

Angesichts der wachsenden Rolle der KI in Branchen vom Marketing bis zum Kundendienst ist die Debatte über die KI-Regulierung von entscheidender Bedeutung, um Innovation und öffentliche Sicherheit in Einklang zu bringen.

Salesforce fordert angesichts des Wachstums der Branche angemessene KI-Regulierungen

Zahra Bahrololoumi, CEO von Salesforce UK und Irland, betonte, dass politische Entscheidungsträger zwischen KI-Unternehmen, die verbraucherorientierte Produkte entwickeln, und solchen, die KI-Lösungen für Unternehmen entwickeln, unterscheiden müssten.

Die KI-Systeme von Salesforce, beispielsweise die Agentforce-KI-Plattform, sollen Unternehmen durch die Automatisierung von Aufgaben wie Kundenservice und Vertriebsabläufen unterstützen.

Im Gegensatz zu verbraucherorientierten KI-Modellen, die häufig einem flexibleren regulatorischen Umfeld unterliegen, müssen KI-Tools für Unternehmen strenge Datenschutz- und Sicherheitsstandards einhalten.

Wachsende Bedenken hinsichtlich Datenschutz und KI-Anwendungen

Eines der von Bahrololoumi angesprochenen Hauptprobleme ist der Umgang mit sensiblen Daten. Die „Zero Retention“-Richtlinie von Salesforce stellt sicher, dass Kundendaten, die in seinen KI-Prozessen verwendet werden, niemals in seinen Systemen gespeichert werden, wodurch hohe Datenschutzstandards gewährleistet werden.

Dies steht im Gegensatz zu verbraucherorientierten KI-Modellen wie ChatGPT oder Claude von Anthropic, bei denen die Speicherung und Verwendung von Daten für Trainingsmodelle unklar bleibt.

Der Datenschutz bleibt ein kritisches Anliegen, da die KI-Technologie immer stärker in den täglichen Betriebsablauf integriert wird.

Unternehmens-KI-Systeme, insbesondere jene, die von Unternehmen zur Abwicklung von Kundeninteraktionen eingesetzt werden, müssen strenge Standards erfüllen, wie etwa die Datenschutz-Grundverordnung (DSGVO), die die Datensicherheit und den Datenschutz in der Europäischen Union und im Vereinigten Königreich regelt.

Unterscheidung zwischen Unternehmens-KI und verbraucherorientierten KI-Tools

Bahrololoumi wies auf den grundlegenden Unterschied zwischen Verbraucher- und Unternehmens-KI hin.

Unternehmen wie Salesforce unterliegen strengeren Datenschutzbestimmungen, während KI-Produkte für den Verbraucherbereich möglicherweise nicht dieselben Standards einhalten müssen.

Zwar unterliegen KI-Tools für Unternehmen strengeren Kontrollen, doch die breite Anwendung von KI-Vorschriften könnte das Wachstum der KI in Sektoren, in denen Innovation von entscheidender Bedeutung ist, unbeabsichtigt behindern.

Bahrololoumi hält eine „zielgerichtete, angemessene und maßgeschneiderte“ Gesetzgebung für die Entwicklung von KI in verschiedenen Branchen für unerlässlich. Verbraucherorientierte KI-Systeme erfordern möglicherweise andere Richtlinien als geschäftsorientierte Lösungen, die in der Regel durch bestehende Unternehmensvorschriften geregelt sind.

Labours KI-Politik

Die Labour-Regierung hat noch keinen spezifischen KI-Gesetzentwurf vorgelegt, doch die KI-Regulierung stand im Mittelpunkt der nationalen Debatte.

Die Regierung hat den Wunsch geäußert, das Wachstum des KI-Sektors zu unterstützen und gleichzeitig für Sicherheit und Fairness bei seiner branchenübergreifenden Umsetzung zu sorgen.

Bahrololoumis Kommentare kommen zu einem Zeitpunkt, an dem die Regierung die nächsten Schritte bei der Ausarbeitung eines Regulierungsrahmens für KI erwägt.

Ein Sprecher des britischen Ministeriums für Wissenschaft, Innovation und Technologie (DSIT) erwähnte, dass die KI-Regeln der Regierung auf die leistungsfähigsten KI-Modelle abzielen würden, anstatt pauschale Regelungen für alle KI-Anwendungen einzuführen.

Dieser Schwerpunkt könnte sicherstellen, dass Unternehmen wie Salesforce, die KI-Dienste für Unternehmen anbieten, nicht denselben Vorschriften unterliegen wie Unternehmen, die verbraucherorientierte Technologien entwickeln.

KI-Sicherheit und Ethik stehen für Unternehmensanbieter im Vordergrund

Für Unternehmensanbieter wie Salesforce haben die Ethik und Sicherheit der KI höchste Priorität.

Ihre KI-Systeme, die verschiedene Geschäftsfunktionen automatisieren, müssen sicherstellen, dass Datenhandhabung, Datenschutz und die Einhaltung von Unternehmensrichtlinien gewährleistet bleiben.

Die Agentforce-Plattform des Unternehmens ermöglicht es Unternehmen beispielsweise, autonome digitale Agenten zu erstellen, die komplexe Aufgaben wie Kundenservice und Marketing übernehmen können, ohne die Datensicherheit zu gefährden.

Angesichts der fortschreitenden Entwicklung der KI besteht die Herausforderung für die Regulierungsbehörden darin, mit dem rasanten Tempo der Veränderungen Schritt zu halten und gleichzeitig sicherzustellen, dass Innovationen nicht im Keim erstickt werden.

Die Forderung von Salesforce nach gezielten und angemessenen Regelungen spiegelt die allgemeine Sorge der Technologiebranche hinsichtlich der Balance zwischen Sicherheit und Wachstum wider.

Der KI-Sektor steht kurz davor, ganze Branchen zu revolutionieren. Er muss jedoch durch einen Regulierungsrahmen geregelt werden, der Innovationen unterstützt, ohne ethische Standards oder das Vertrauen der Öffentlichkeit zu gefährden.