Le directeur de Salesforce UK appelle à une réglementation de l'IA adaptée aux outils d'entreprise et aux outils grand public

La directrice de Salesforce au Royaume-Uni, Zahra Bahrololoumi, a exprimé ses inquiétudes concernant la réglementation générale sur l'intelligence artificielle (IA) au Royaume-Uni, appelant à une approche plus ciblée et plus adaptée.

Alors que le paysage de l'IA évolue rapidement, la politique du gouvernement travailliste en la matière est scrutée pour son impact potentiel sur un large éventail d'entreprises impliquées dans le développement de l'IA, des outils destinés aux consommateurs comme ChatGPT d'OpenAI aux systèmes axés sur l'entreprise tels que les plateformes d'IA de Salesforce.

Avec le rôle croissant de l’IA dans les secteurs allant du marketing au service client, le débat sur la réglementation de l’IA est essentiel pour équilibrer l’innovation et la sécurité publique.

Salesforce appelle à une réglementation proportionnelle de l'IA à mesure que le secteur se développe

Zahra Bahrololoumi, PDG de Salesforce Royaume-Uni et Irlande, a souligné la nécessité pour les décideurs politiques de faire la distinction entre les entreprises d'IA qui développent des produits destinés aux consommateurs et celles qui créent des solutions d'IA d'entreprise.

Les systèmes d'IA de Salesforce, comme la plateforme Agentforce, sont conçus pour aider les entreprises en automatisant des tâches telles que le service client et les opérations de vente. Contrairement aux modèles d'IA orientés vers le consommateur qui fonctionnent souvent dans un environnement réglementaire plus flexible, les outils d'IA d'entreprise doivent se conformer à des normes strictes de confidentialité et de sécurité.

Inquiétudes croissantes concernant la confidentialité des données et les applications d’IA

L'un des principaux problèmes soulevés par Bahrololoumi est le traitement des données sensibles. La politique de « zéro conservation » de Salesforce garantit que les données clients utilisées dans ses processus d'IA ne sont jamais stockées dans ses systèmes, préservant ainsi des normes élevées de confidentialité des données.

Cela contraste avec les modèles d'IA destinés aux consommateurs comme ChatGPT ou Claude d'Anthropic, où le stockage et l'utilisation des données pour les modèles de formation restent flous.

La confidentialité des données reste une préoccupation majeure à mesure que la technologie de l’IA s’intègre de plus en plus dans les opérations quotidiennes. Les systèmes d’IA d’entreprise, en particulier ceux utilisés par les entreprises pour gérer les interactions avec les clients, doivent respecter des normes strictes telles que le Règlement général sur la protection des données (RGPD), qui régit la sécurité et la confidentialité des données dans l’Union européenne et au Royaume-Uni.

Différencier l'IA d'entreprise des outils d'IA destinés aux consommateurs

Bahrololoumi a souligné la différence fondamentale entre l’IA grand public et l’IA d’entreprise. Des entreprises comme Salesforce sont soumises à des réglementations de protection des données plus strictes, alors que les produits d’IA destinés aux consommateurs ne sont pas forcément tenus de respecter les mêmes normes.

Bien que les outils d’IA d’entreprise soient soumis à des contrôles plus rigoureux, l’application généralisée des réglementations en matière d’IA pourrait, par inadvertance, entraver la croissance de l’IA dans les secteurs où l’innovation est essentielle.

Selon Bahrololoumi, une législation « ciblée, proportionnée et adaptée » est essentielle au développement de l’IA dans différents secteurs. Les systèmes d’IA destinés aux consommateurs peuvent nécessiter des directives différentes de celles des solutions orientées vers les entreprises, qui sont généralement régies par les réglementations en vigueur dans les entreprises.

La politique du parti travailliste en matière d'IA

Le gouvernement travailliste n'a pas encore présenté de projet de loi spécifique sur l'IA, mais la réglementation de l'IA est au cœur du débat national. Le gouvernement a exprimé sa volonté de soutenir la croissance du secteur de l'IA tout en garantissant la sécurité et l'équité dans sa mise en œuvre dans tous les secteurs.

Les commentaires de Bahrololoumi interviennent alors que le gouvernement envisage les prochaines étapes dans l’élaboration d’un cadre réglementaire pour l’IA.

Un porte-parole du ministère britannique de la Science, de l'Innovation et de la Technologie (DSIT) a mentionné que les règles du gouvernement en matière d'IA cibleraient les modèles d'IA les plus puissants plutôt que de mettre en œuvre des réglementations générales pour toutes les applications d'IA.

Cette approche pourrait garantir que les entreprises comme Salesforce, qui fournissent des services d’IA d’entreprise, ne soient pas soumises aux mêmes réglementations que les entreprises développant des technologies destinées aux consommateurs.

La sécurité et l'éthique de l'IA au premier plan pour les fournisseurs d'entreprise

L’éthique et la sécurité de l’IA sont des priorités absolues pour les fournisseurs d’entreprise comme Salesforce. Leurs systèmes d’IA, qui automatisent diverses fonctions commerciales, doivent garantir que le traitement des données, la confidentialité et le respect des directives de l’entreprise restent intacts.

La plateforme Agentforce de la société, par exemple, permet aux entreprises de créer des agents numériques autonomes capables de gérer des tâches complexes telles que le service client et le marketing sans compromettre la sécurité des données.

Alors que l'IA continue de se développer, le défi pour les régulateurs sera de suivre le rythme rapide des changements tout en veillant à ne pas freiner l'innovation. L'appel de Salesforce en faveur d'une réglementation ciblée et proportionnée reflète une préoccupation plus large de l'ensemble du secteur technologique quant à l'équilibre entre sécurité et croissance.

Le secteur de l’IA est sur le point de révolutionner les industries, mais il doit être régi par un cadre réglementaire qui soutient l’innovation sans compromettre les normes éthiques ou la confiance du public.