La découverte d’une vulnérabilité dans les conversations des chatbots d’IA a soulevé des inquiétudes quant à la sécurité et à la confidentialité de ces interactions. Cette vulnérabilité, connue sous le nom d’une « attaque de canal latéral », permet aux hackers d’espionner des chats privés et potentiellement d’accéder à des informations sensibles. Contrairement aux méthodes de piratage traditionnelles, les attaques de canal latéral reposent sur l’inférence passive de données à l’aide de métadonnées ou d’autres expositions indirectes.
Les pratiques de cryptage utilisées par les chatbots d’IA les rendent particulièrement vulnérables aux attaques de canal latéral. Alors que le cryptage est utilisé pour protéger le trafic des chatbots, la recherche menée par l’équipe de l’Université Ben-Gourion suggère que les méthodes de cryptage employées sont défectueuses. Par conséquent, les messages privés échangés avec les chatbots d’IA peuvent être exposés à des espions potentiels.
Les attaquants peuvent exploiter cette vulnérabilité pour inférer grossièrement les instructions données aux chatbots d’IA avec un degré de précision significatif. Les chercheurs ont découvert que des questions sensibles posées aux chatbots d’IA pouvaient être détectées avec environ 55% de précision par des acteurs malveillants. Cela constitue une menace sérieuse pour la vie privée et la sécurité des utilisateurs.
Il est important de noter que cette vulnérabilité dépasse OpenAI. Selon la recherche, la plupart des chatbots sur le marché, à l’exception de Gemini de Google, sont susceptibles de subir ce type d’attaques. Le problème réside dans l’utilisation de données codées appelées « tokens » par les chatbots pour faciliter le flux de conversation. Bien que le processus de livraison soit généralement crypté, les tokens créent eux-mêmes un canal latéral par lequel les attaquants peuvent accéder et inférer les instructions données au chatbot.
Pour démontrer l’exploit, les chercheurs de Ben-Gourion ont utilisé des données acquises par le biais du canal latéral et ont formé un modèle de langage pour identifier des mots-clés liés aux instructions. Les résultats étaient alarmants, le modèle de langage inférant avec précision les instructions générales 50% du temps et les prédisant avec une précision remarquable 29% du temps.
Les implications de cette vulnérabilité sont profondément préoccupantes, en particulier dans le contexte de sujets sensibles tels que l’avortement ou les questions LGBTQ. Les individus cherchant des informations ou un soutien via les chatbots d’IA peuvent involontairement s’exposer à des dangers ou des sanctions.
Microsoft, propriétaire d’OpenAI et de Copilot AI, a reconnu la vulnérabilité et s’est engagé à résoudre le problème avec une mise à jour visant à renforcer la protection des utilisateurs. Ils assurent que des détails personnels, tels que les noms, sont peu susceptibles d’être prédits. Cependant, cet incident souligne la nécessité pour les développeurs d’IA et les utilisateurs de mettre la sécurité et la confidentialité des conversations des chatbots d’IA au premier plan.
Pour réduire le risque d’attaques de canal latéral, des mesures de cryptage robustes doivent être implémentées.
FAQ :
**Q: Qu’est-ce qu’une attaque de canal latéral?**
**R:** Les attaques de canal latéral impliquent l’inférence passive de données en exploitant des métadonnées ou d’autres expositions indirectes, plutôt que de violer des pare-feu de sécurité.
**Q: Comment les chatbots d’IA sont-ils vulnérables aux attaques de canal latéral?**
**R:** Les méthodes de cryptage des chatbots d’IA, utilisées pour protéger le trafic, se sont révélées défectueuses, permettant aux espions potentiels d’accéder au contenu des messages privés.
**Q: D’autres chatbots peuvent-ils être exploités de la même manière?**
**R:** Oui, la plupart des chatbots sur le marché, à l’exception de Gemini de Google, sont susceptibles d’être victimes d’attaques de canal latéral.
**Q: Comment les attaques de canal latéral peuvent-elles être évitées?**
**R:** Les développeurs d’IA devraient implémenter des méthodes de cryptage robustes pour atténuer le risque d’attaques de canal latéral et protéger la vie privée des utilisateurs.
**Q: Quelle est la signification de cette vulnérabilité?**
**R:** La vulnérabilité expose des informations sensibles échangées avec des chatbots d’IA, potentiellement entraînant des dangers ou des sanctions dans les cas de sujets sensibles.
The source of the article is from the blog yanoticias.es