A medida que la inteligencia artificial (IA) sigue creciendo en importancia, establecer confianza se convierte en un factor crucial para garantizar la seguridad y responsabilidad de los grandes modelos de lenguaje (LLMs). Arundhati Bhattacharya, CEO y Presidenta de Salesforce India, destaca la importancia de la confianza en la creación de modelos de IA seguros y en la protección de datos.
Mientras India refuerza las regulaciones sobre el lanzamiento de nuevos modelos de IA, Bhattacharya enfatiza la necesidad de cumplir con las normas y procesos gubernamentales. Salesforce India está considerando establecer una iniciativa del sector público para la IA que se alinee con los requisitos del gobierno y priorice el cumplimiento.
Al abordar las preocupaciones relacionadas con la IA, Bhattacharya enfatiza el compromiso de Salesforce para detectar y eliminar problemas antes de que los modelos de IA alcancen la etapa final. Esta ventaja proviene del enfoque de Salesforce en integrar modelos de IA seleccionados por los clientes y someterlos a una capa de confianza sólida. Esta capa de confianza asegura que cualquier resultado de sus sistemas de IA pase por un escrutinio riguroso.
Aunque las reglas actuales de IA del gobierno se dirigen principalmente a plataformas de usuarios finales, Bhattacharya aclara que Salesforce opera como un proveedor de servicios en la nube que atiende principalmente a interacciones empresariales en lugar de consumidores individuales. Al permitir a los clientes traer sus propios modelos de IA y crear una capa de confianza, Salesforce mantiene un fuerte enfoque en la seguridad y privacidad de los datos.
En línea con su compromiso con la IA responsable, Salesforce presenta la ‘Capa de Confianza Einstein’ diseñada para la IA empresarial. Esta colección de funciones permite a las empresas beneficiarse de la IA generativa al incorporar el enmascaramiento de datos configurado por los clientes y permitir un mayor control sobre la información sensible. Además, el registro de auditoría y los datos de retroalimentación recopilados de las interacciones de IA se almacenan de forma segura en la Nube de Datos, ofreciendo fácil accesibilidad para informes y análisis.
Para mejorar aún más la personalización de la IA, Salesforce anuncia la disponibilidad del Estudio Einstein 1. Este conjunto de herramientas de bajo código capacita a administradores y desarrolladores para personalizar Einstein Copilot, el asistente de IA conversacional para la gestión de relaciones con los clientes (CRM), e integrar AI de forma transparente en diversas aplicaciones, mejorando tanto la experiencia de los clientes como de los empleados.
Al priorizar la confianza y el cumplimiento, Salesforce India subraya la importancia de establecer modelos de IA seguros y responsables que protejan los datos y mantengan los estándares de seguridad.
**Sección de Preguntas Frecuentes:**
1. ¿Cuál es la importancia de la confianza en los grandes modelos de lenguaje (LLMs)?
– Establecer confianza es crucial para garantizar la seguridad y responsabilidad de los grandes modelos de lenguaje. Ayuda a proteger los datos y promueve modelos de IA seguros.
2. ¿Cómo prioriza Salesforce India el cumplimiento de las normas gubernamentales?
– Salesforce India está considerando establecer una iniciativa del sector público para la IA que se alinee con los requisitos del gobierno y priorice el cumplimiento. Enfatizan la necesidad de cumplir con las regulaciones y procesos gubernamentales.
3. ¿Cómo aborda Salesforce las preocupaciones relacionadas con la IA?
– Salesforce revisa y elimina problemas antes de que los modelos de IA alcancen la etapa final. Integran modelos de IA seleccionados por los clientes y los someten a una capa de confianza sólida, asegurando que cualquier resultado de sus sistemas de IA pase por un escrutinio riguroso.
4. ¿A quién se dirige principalmente Salesforce como proveedor de servicios en la nube?
– Salesforce se dirige principalmente a interacciones empresariales en lugar de consumidores individuales. Se enfocan en la seguridad y privacidad de los datos.
5. ¿Qué es la ‘Capa de Confianza Einstein’ introducida por Salesforce?
– La ‘Capa de Confianza Einstein’ está diseñada para la IA empresarial e incluye funciones como el enmascaramiento de datos configurado por los clientes y un mayor control sobre la información sensible. Asegura la confianza y permite a las empresas beneficiarse de la IA generativa.
6. ¿Qué es el Estudio Einstein 1?
– El Estudio Einstein 1 es un conjunto de herramientas de bajo código introducido por Salesforce. Capacita a administradores y desarrolladores para personalizar Einstein Copilot, el asistente de IA conversacional para la gestión de relaciones con los clientes (CRM), e integrar IA en diversas aplicaciones.
**Términos Clave:**
– Inteligencia Artificial (IA): La simulación de la inteligencia humana en máquinas programadas para pensar y aprender como los humanos.
– Grandes Modelos de Lenguaje (LLMs): Modelos de IA entrenados en vastas cantidades de datos de texto para generar lenguaje similar al humano.
– Cumplimiento: Adherencia a leyes, regulaciones y pautas.
– Capa de Confianza: Una capa adicional de escrutinio y seguridad aplicada a modelos de IA para garantizar su confiabilidad.
– Seguridad y Privacidad de Datos: Medidas tomadas para proteger los datos de accesos no autorizados y garantizar la privacidad.
– IA Empresarial: Soluciones de IA diseñadas para empresas y organizaciones.
The source of the article is from the blog radardovalemg.com