El director de Salesforce UK pide regulaciones de IA adaptadas a las herramientas empresariales y de consumo

La directora de Salesforce en el Reino Unido, Zahra Bahrololoumi, ha expresado su preocupación por las regulaciones generales sobre la inteligencia artificial (IA) en el Reino Unido y ha pedido un enfoque más específico y personalizado.

A medida que el panorama de la IA evoluciona rápidamente, la política de IA del gobierno laborista está bajo escrutinio por su impacto potencial en una amplia gama de empresas involucradas en el desarrollo de IA, desde herramientas orientadas al consumidor como ChatGPT de OpenAI hasta sistemas enfocados en la empresa como las plataformas de IA de Salesforce.

Con el papel cada vez mayor de la IA en industrias que van desde el marketing hasta el servicio al cliente, el debate sobre la regulación de la IA es fundamental para equilibrar la innovación con la seguridad pública.

Salesforce pide regulaciones proporcionales para la IA a medida que crece la industria

Zahra Bahrololoumi, directora ejecutiva de Salesforce Reino Unido e Irlanda, destacó la necesidad de que los responsables políticos diferencien entre las empresas de IA que desarrollan productos orientados al consumidor y aquellas que crean soluciones de IA empresariales.

Los sistemas de inteligencia artificial de Salesforce, como la plataforma de inteligencia artificial Agentforce, están diseñados para ayudar a las empresas a automatizar tareas como el servicio de atención al cliente y las operaciones de ventas. A diferencia de los modelos de inteligencia artificial orientados al consumidor, que suelen funcionar en un entorno normativo más flexible, las herramientas de inteligencia artificial empresariales deben cumplir con estrictos estándares de privacidad y seguridad.

Crecientes preocupaciones sobre la privacidad de los datos y las aplicaciones de IA

Una de las cuestiones clave que plantea Bahrololoumi es el manejo de datos sensibles. La política de “retención cero” de Salesforce garantiza que los datos de los clientes utilizados en sus procesos de inteligencia artificial nunca se almacenen en sus sistemas, manteniendo así altos estándares de privacidad de datos.

Esto contrasta con los modelos de IA orientados al consumidor, como ChatGPT o Claude de Anthropic, donde el almacenamiento y el uso de datos para entrenar modelos siguen sin estar claros.

La privacidad de los datos sigue siendo una preocupación crítica a medida que la tecnología de IA se integra cada vez más en las operaciones diarias. Los sistemas de IA empresariales, en particular los que utilizan las empresas para gestionar las interacciones con los clientes, deben cumplir con estándares sólidos como el Reglamento General de Protección de Datos (RGPD), que rige la seguridad y la privacidad de los datos en la Unión Europea y el Reino Unido.

Diferenciar la IA empresarial de las herramientas de IA orientadas al consumidor

Bahrololoumi señaló la diferencia fundamental entre la IA para consumidores y la IA para empresas. Empresas como Salesforce operan bajo normas de protección de datos más estrictas, mientras que los productos de IA para consumidores pueden no necesitar cumplir con los mismos estándares.

Si bien las herramientas de IA empresarial están sujetas a controles más rigurosos, la aplicación amplia de las regulaciones de IA podría obstaculizar inadvertidamente el crecimiento de la IA en sectores donde la innovación es clave.

Bahrololoumi considera que una legislación “dirigida, proporcional y personalizada” es esencial para el desarrollo de la IA en diferentes industrias. Los sistemas de IA orientados al consumidor pueden requerir pautas diferentes a las de las soluciones orientadas a las empresas, que suelen regirse por las regulaciones corporativas existentes.

La política de inteligencia artificial del Partido Laborista

El gobierno laborista aún no ha presentado un proyecto de ley específico sobre IA, pero las regulaciones de IA han estado en el centro del debate nacional. El gobierno ha expresado su deseo de apoyar el crecimiento del sector de IA y, al mismo tiempo, garantizar la seguridad y la equidad en su implementación en todas las industrias.

Los comentarios de Bahrololoumi llegan mientras el gobierno considera los próximos pasos en la elaboración de un marco regulatorio para la IA.

Un portavoz del Departamento de Ciencia, Innovación y Tecnología del Reino Unido (DSIT) mencionó que las reglas de IA del gobierno apuntarían a los modelos de IA más poderosos en lugar de implementar regulaciones generales para todas las aplicaciones de IA.

Este enfoque podría garantizar que empresas como Salesforce, que brindan servicios de inteligencia artificial empresarial, no estén sujetas a las mismas regulaciones que las empresas que desarrollan tecnologías orientadas al consumidor.

La seguridad y la ética de la IA, una prioridad para los proveedores empresariales

La ética y la seguridad de la IA son prioridades principales para los proveedores empresariales como Salesforce. Sus sistemas de IA, que automatizan diversas funciones empresariales, deben garantizar que el manejo de datos, la privacidad y el cumplimiento de las directrices corporativas permanezcan intactos.

La plataforma Agentforce de la empresa, por ejemplo, permite a las empresas crear agentes digitales autónomos que pueden gestionar tareas complejas como atención al cliente y marketing sin comprometer la seguridad de los datos.

A medida que la IA siga desarrollándose, el desafío para los reguladores será mantenerse al día con el rápido ritmo del cambio y, al mismo tiempo, garantizar que la innovación no se vea frenada. El llamado de Salesforce a una regulación específica y proporcionada refleja una preocupación más amplia en toda la industria tecnológica sobre el equilibrio entre seguridad y crecimiento.

El sector de la IA está preparado para revolucionar las industrias, pero debe estar regido por un marco regulatorio que apoye la innovación sin comprometer los estándares éticos ni la confianza pública.