Un reciente estudio ha revelado información sobre las vulnerabilidades presentes en los proveedores de inteligencia artificial (IA) como servicio, resaltando dos riesgos críticos que podrían ser aprovechados por actores malintencionados. Estas preocupaciones plantean inquietudes sobre la seguridad de los sistemas de IA y la protección de datos sensibles.
Los riesgos identificados en el estudio incluyen la posibilidad de que los actores amenaza obtengan privilegios, accedan a modelos de otros clientes e incluso tomen el control de las canalizaciones de integración y despliegue continuo. Esto significa que los atacantes podrían manipular modelos de IA para llevar a cabo ataques entre inquilinos, representando una amenaza significativa para los proveedores de servicios de IA. Las consecuencias de tales ataques podrían ser devastadoras, ya que millones de modelos de IA privados y aplicaciones almacenadas en los proveedores de IA como servicio podrían quedar comprometidos.
Estos riesgos surgen en el contexto de las canalizaciones de aprendizaje automatizado, que se han convertido en un nuevo objetivo para ataques a la cadena de suministro. Plataformas como Hugging Face, que alojan repositorios de modelos de IA, se han convertido en objetivos atractivos para actores malintencionados que buscan extraer información sensible y obtener acceso no autorizado a entornos específicos.
Las vulnerabilidades identificadas en el estudio son resultado de la toma de control de la infraestructura de inferencia compartida y de la toma de control de CI/CD compartida. Esto permite que los actores de amenaza suban modelos no confiables en formato pickle y ejecuten un ataque a la cadena de suministro al hacerse cargo de la canalización de CI/CD. Al aprovechar estas vulnerabilidades, los atacantes pueden vulnerar el servicio que ejecuta modelos personalizados, comprometiendo todo el sistema y obteniendo acceso no autorizado a los modelos de otros clientes.
Para demostrar la gravedad de estos riesgos, los investigadores crearon un modelo de PyTorch que podía ejecutar código arbitrario al cargarse. Descubrieron que Hugging Face permitía la ejecución del modelo cargado, incluso si se consideraba peligroso. Al explotar malas configuraciones en el Servicio de Amazon Elastic Kubernetes (EKS), los actores de amenaza podrían escalar privilegios y moverse lateralmente dentro del clúster.
Para abordar estas vulnerabilidades, los investigadores recomiendan habilitar IMDSv2 con Límite de salto, evitando así que las cápsulas accedan al Servicio de Metadatos de Instancia y obtengan privilegios no autorizados dentro del clúster. Además, Hugging Face recomienda a los usuarios emplear modelos únicamente de fuentes confiables, habilitar la autenticación multifactor y evitar el uso de archivos pickle en entornos de producción.
Es fundamental reconocer estos hallazgos y tomar las precauciones necesarias al utilizar modelos de IA, especialmente aquellos en formato pickle. Garantizar un entorno aislado para modelos de IA no confiables es esencial para minimizar los riesgos de seguridad. Además, es recomendable ser precavido al depender de grandes modelos de lenguaje (LLMs), como se demostró con el potencial de distribución de paquetes de código malicioso a desarrolladores de software desprevenidos.
A medida que el campo de la IA continúa avanzando, es vital priorizar medidas de seguridad para proteger datos sensibles y mitigar los riesgos asociados con ataques malintencionados.
**Preguntas Frecuentes:**
1. **¿Qué es un proveedor de inteligencia artificial como servicio?**
– Un proveedor de inteligencia artificial como servicio es una entidad que ofrece servicios de inteligencia artificial a través de la nube, permitiendo a los usuarios utilizar y aprovechar capacidades avanzadas de IA sin necesidad de implementar su propia infraestructura.
2. **¿Qué son los modelos de lenguaje?**
– Los modelos de lenguaje en el contexto de la inteligencia artificial se refieren a sistemas diseñados para comprender y generar lenguaje humano de manera natural.
3. **¿Qué es una cadena de suministro en el contexto de la IA?**
– En el ámbito de la inteligencia artificial, una cadena de suministro se refiere al proceso de desarrollo, implementación y mantenimiento de modelos de IA, desde la recopilación de datos hasta la puesta en producción.
En conclusión, es esencial abordar las vulnerabilidades identificadas en los proveedores de IA como servicio para garantizar la seguridad de los sistemas y la protección de los datos sensibles. Con el crecimiento de la industria de la IA como servicio y la creciente dependencia de las tecnologías de IA, es crucial priorizar la seguridad para mitigar los riesgos asociados con ataques malintencionados.
The source of the article is from the blog portaldoriograndense.com