Chefe da Salesforce UK pede regulamentações de IA personalizadas para ferramentas empresariais versus ferramentas de consumo

A chefe da Salesforce no Reino Unido, Zahra Bahrololoumi, expressou suas preocupações sobre regulamentações gerais sobre inteligência artificial (IA) no Reino Unido, pedindo uma abordagem mais direcionada e personalizada.

À medida que o cenário da IA evolui rapidamente, a política de IA do governo trabalhista está sob análise quanto ao seu potencial impacto em uma ampla gama de empresas envolvidas no desenvolvimento de IA, desde ferramentas voltadas para o consumidor, como o ChatGPT da OpenAI, até sistemas focados em empresas, como as plataformas de IA da Salesforce.

Com o papel crescente da IA em setores que vão do marketing ao atendimento ao cliente, o debate sobre a regulamentação da IA é fundamental para equilibrar a inovação com a segurança pública.

Salesforce pede regulamentações proporcionais de IA conforme o crescimento da indústria

Zahra Bahrololoumi, CEO da Salesforce Reino Unido e Irlanda, destacou a necessidade de os formuladores de políticas diferenciarem entre empresas de IA que desenvolvem produtos voltados para o consumidor e aquelas que criam soluções de IA empresarial.

Os sistemas de IA da Salesforce, como a plataforma Agentforce AI, são projetados para dar suporte a empresas automatizando tarefas como atendimento ao cliente e operações de vendas. Diferentemente dos modelos de IA voltados para o consumidor que frequentemente operam em um ambiente regulatório mais flexível, as ferramentas de IA corporativas devem estar em conformidade com padrões rigorosos de privacidade e segurança.

Preocupações crescentes sobre privacidade de dados e aplicações de IA

Uma das principais questões levantadas por Bahrololoumi é o manuseio de dados sensíveis. A política de “retenção zero” da Salesforce garante que os dados do cliente usados em seus processos de IA nunca sejam armazenados em seus sistemas, mantendo altos padrões de privacidade de dados.

Isso contrasta com modelos de IA voltados para o consumidor, como ChatGPT ou Claude da Anthropic, onde o armazenamento e o uso de dados para modelos de treinamento permanecem obscuros.

A privacidade de dados continua sendo uma preocupação crítica à medida que a tecnologia de IA se torna cada vez mais incorporada às operações diárias. Os sistemas de IA empresarial, particularmente aqueles usados por empresas para lidar com interações com clientes, devem atender a padrões robustos, como o Regulamento Geral de Proteção de Dados (GDPR), que rege a segurança e a privacidade de dados na União Europeia e no Reino Unido.

Diferenciando a IA empresarial das ferramentas de IA voltadas para o consumidor

Bahrololoumi destacou a diferença fundamental entre IA empresarial e de consumidor. Empresas como a Salesforce operam sob regulamentações de proteção de dados mais rigorosas, enquanto produtos de IA voltados para o consumidor podem não precisar atender aos mesmos padrões.

Embora as ferramentas de IA empresarial estejam sujeitas a verificações mais rigorosas, a ampla aplicação de regulamentações de IA pode inadvertidamente dificultar o crescimento da IA em setores onde a inovação é fundamental.

A legislação “direcionada, proporcional e personalizada” é o que Bahrololoumi vê como essencial para o desenvolvimento da IA em diferentes setores. Os sistemas de IA voltados para o consumidor podem exigir diretrizes diferentes das soluções orientadas para os negócios, que normalmente são regidas por regulamentações corporativas existentes.

Política de IA do Partido Trabalhista

O governo trabalhista ainda não apresentou um projeto de lei específico sobre IA, mas as regulamentações de IA têm estado na vanguarda do debate nacional. O governo expressou o desejo de apoiar o crescimento do setor de IA, ao mesmo tempo em que garante segurança e justiça em sua implementação em todos os setores.

Os comentários de Bahrololoumi ocorrem no momento em que o governo considera os próximos passos na elaboração de uma estrutura regulatória para IA.

Um porta-voz do Departamento de Ciência, Inovação e Tecnologia do Reino Unido (DSIT) mencionou que as regras de IA do governo teriam como alvo os modelos de IA mais poderosos, em vez de implementar regulamentações gerais para todas as aplicações de IA.

Esse foco pode garantir que empresas como a Salesforce, que fornecem serviços de IA empresarial, não estejam sujeitas às mesmas regulamentações que as empresas que desenvolvem tecnologias voltadas para o consumidor.

Segurança e ética da IA na vanguarda para provedores empresariais

A ética e a segurança da IA são as principais prioridades para provedores corporativos como a Salesforce. Seus sistemas de IA, que automatizam várias funções comerciais, devem garantir que o manuseio de dados, a privacidade e a conformidade com as diretrizes corporativas permaneçam intactos.

A plataforma Agentforce da empresa, por exemplo, permite que empresas criem agentes digitais autônomos que podem lidar com tarefas complexas como atendimento ao cliente e marketing sem comprometer a segurança dos dados.

À medida que a IA continua a se desenvolver, o desafio para os reguladores será acompanhar o ritmo rápido das mudanças, garantindo ao mesmo tempo que a inovação não seja sufocada. O apelo da Salesforce por regulamentações direcionadas e proporcionais reflete uma preocupação mais ampla em toda a indústria de tecnologia sobre o equilíbrio entre segurança e crescimento.

O setor de IA está pronto para revolucionar indústrias, mas deve ser governado por uma estrutura regulatória que apoie a inovação sem comprometer os padrões éticos ou a confiança pública.