OpenAI ha tomado una acción decisiva para eliminar las cuentas afiliadas a grupos de piratería respaldados por el estado de Rusia, China, Irán y Corea del Norte que estaban utilizando su chatbot de IA, ChatGPT, con fines maliciosos. Este es un paso significativo para salvaguardar la integridad y seguridad de la plataforma.
Las cuentas asociadas con estos grupos de amenaza, a saber, Forest Blizzard (Rusia), Emerald Sleet (Corea del Norte), Crimson Sandstorm (Irán), Charcoal Typhoon (China) y Salmon Typhoon (China), estaban explotando ChatGPT para diversas actividades relacionadas con sus operaciones cibernéticas. Los hackers utilizaron las capacidades de ChatGPT para llevar a cabo investigaciones, optimizar sus operaciones, mejorar sus tácticas de evasión y recopilar información sensible.
Aunque los hallazgos de OpenAI y el equipo de Inteligencia de Amenazas de Microsoft revelaron un aumento en segmentos de amenazas persistentes avanzadas (APTs) como el phishing y la ingeniería social, la mayoría de las actividades observadas fueron de carácter exploratorio. Los grupos de amenazas utilizaron ChatGPT para una variedad de propósitos, como investigar tecnologías militares, generar contenido de spear-phishing, solucionar problemas en tecnologías web y desarrollar técnicas de evasión.
Cabe destacar que los hackers respaldados por el estado no desarrollaron directamente malware o herramientas personalizadas de explotación utilizando los modelos de lenguaje amplios. En su lugar, buscaron asistencia de codificación para tareas de nivel inferior como consejos de evasión, scripting y optimización de operaciones técnicas.
OpenAI, en colaboración con el equipo de Inteligencia de Amenazas de Microsoft, tomó medidas inmediatas contra estas cuentas abusivas después de recibir información crucial. La eliminación de estas cuentas representa un compromiso con mantener la seguridad de la plataforma.
Al comprender cómo estos actores de amenazas sofisticados explotan los sistemas de IA, OpenAI obtiene información valiosa sobre las tendencias emergentes y las prácticas que podrían dañar la plataforma en el futuro. Este conocimiento capacita a la organización para evolucionar y fortalecer continuamente sus salvaguardias contra el uso malicioso.
OpenAI sigue vigilante en la monitorización y la interrupción de los hackers respaldados por el estado mediante la utilización de tecnología de monitoreo especializada, asociaciones industriales y equipos dedicados a identificar patrones de uso sospechoso. La dedicación continua de la organización a la seguridad subraya su compromiso de proporcionar una plataforma de IA confiable y resistente.
Sección de preguntas frecuentes
The source of the article is from the blog lokale-komercyjne.pl