OpenAI, dans une démarche résolue visant à protéger l’intégrité et la sécurité de sa plateforme, a supprimé les comptes associés aux groupes de piratage soutenus par des États de Russie, de Chine, d’Iran et de Corée du Nord. Ces groupes de menace utilisaient l’IA de chatbot d’OpenAI, ChatGPT, à des fins malveillantes, posant un risque important pour la cybersécurité.
Les pirates, opérant sous les noms de Forest Blizzard (Russie), Emerald Sleet (Corée du Nord), Crimson Sandstorm (Iran), Charcoal Typhoon (Chine) et Salmon Typhoon (Chine), exploitaient ChatGPT pour améliorer leurs activités cybernétiques. En tirant parti des capacités de ChatGPT, ces acteurs de menace se livraient à la recherche, l’optimisation opérationnelle, l’amélioration des tactiques d’évasion et la collecte d’informations sensibles.
Plutôt que de développer directement des logiciels malveillants ou de créer des outils d’exploitation personnalisés à l’aide de grands modèles de langage, les hackers soutenus par des États ont sollicité l’aide de ChatGPT pour des tâches de plus faible niveau telles que la création de scripts, des astuces d’évasion et l’optimisation des opérations techniques. Leurs activités étaient principalement axées sur l’exploration des technologies militaires, la génération de contenu de spear-phishing, le dépannage des technologies web et le développement de techniques d’évasion.
OpenAI, en collaboration avec l’équipe de Microsoft Threat Intelligence, a réagi rapidement à ces comptes abusifs après avoir reçu des informations cruciales. La suppression de ces comptes démontre un engagement ferme à maintenir un environnement de plateforme sécurisé.
En comprenant les tactiques utilisées par ces acteurs de menace sophistiqués pour exploiter les systèmes d’IA, OpenAI acquiert des informations précieuses sur les tendances émergentes et les pratiques qui pourraient potentiellement mettre en péril la plateforme à l’avenir. Cette connaissance permet à l’organisation d’évoluer et de renforcer en permanence ses dispositifs de protection contre une utilisation malveillante, témoignant de son engagement à fournir une plateforme d’IA résistante et digne de confiance.
OpenAI utilise une technologie de surveillance spécialisée, des partenariats industriels et des équipes dédiées axées sur l’identification de modèles d’utilisation suspects pour surveiller de manière vigilante et perturber les hackers soutenus par des États. Ces mesures proactives soulignent l’engagement inébranlable d’OpenAI à assurer la sécurité de sa plateforme.
En résumé, la réaction rapide d’OpenAI contre les groupes de piratage soutenus par des États réaffirme son engagement à protéger ses utilisateurs et à maintenir la crédibilité de son chatbot d’IA, ChatGPT. La suppression de ces comptes malveillants permet à OpenAI de rester en avance dans la lutte contre les menaces cybernétiques, préservant ainsi l’avenir de la technologie de l’IA.
Questions fréquemment posées sur l’action d’OpenAI contre les hackers soutenus par des États
The source of the article is from the blog elblog.pl