Yapay zeka (YZ) sohbet botları, kullanıcılara sorularına hızlı ve pratik yanıtlar sağlayarak giderek popüler hale gelmiştir. Ancak İsrail’deki Ben-Gurion Üniversitesi araştırmacıları tarafından yapılan son keşif, YZ sohbet botu konuşmalarında endişe verici bir güvenlik açığına ışık tutmuştur. Saldırganlar, bu açığı kullanarak özel sohbetleri izleyebilir ve hassas bilgilere erişebilirler.
Söz konusu güvenlik açığına “yan kanal saldırısı” denir. Geleneksel hackleme yöntemlerinin aksine güvenlik duvarlarını aşmayı gerektirmeyen yan kanal saldırıları, metaverileri veya diğer dolaylı maruziyetleri kullanarak verilerin pasif olarak elde edilmesine dayanır. Bu tür bir saldırı, aynı ağdaki kötü niyetli kişiler veya hatta interneti kullanarak trafiği izleyebilecek kişiler tarafından gerçekleştirilebilir.
YZ sohbet botlarını yan kanal saldırılarına karşı özellikle savunmasız kılan şey, şifreleme uygulamalarıdır. OpenAI gibi YZ geliştiricileri, sohbet botu trafiğini korumak için şifreleme kullanırken, Ben-Gurion Üniversitesi ekibi tarafından gerçekleştirilen araştırma, kullanılan şifreleme yöntemlerinin kusurlu olduğunu ortaya koymaktadır. Sonuç olarak, YZ sohbet botlarıyla değiştirilen özel mesajların içeriği potansiyel dinleyicilere açık hale gelebilir.
Bu güvenlik açığından faydalanarak saldırganlar, YZ sohbet botlarına verilen ipuçlarını önemli bir doğruluk derecesiyle tahmin edebilirler. Araştırmacılar hassas soruların YZ sohbet botlarına yöneltilmesinin, kötü niyetli kişiler tarafından yaklaşık %55 doğrulukla tespit edilebileceğini keşfetmişlerdir. Bu durum kullanıcı gizliliği ve güvenliği için ciddi bir tehdit oluşturmaktadır.
Bu güvenlik açığının OpenAI ile sınırlı olmadığını belirtmek önemlidir. Araştırmaya göre, Google’ın Gemini dışında pazarındaki çoğu sohbet botu, bu tür saldırılara açıktır. Sorun, sohbet botlarının sorunsuz konuşma akışını sağlamak için “tokenlar” olarak bilinen kodlanmış verilerin kullanılmasındadır. Teslimat süreci genellikle şifrelenmiş olsa da, tokenlar kendileri saldırganların sohbet bota verilen ipuçlarına erişebileceği bir yan kanal yaratır.
Ben-Gurion araştırmacıları, yan kanaldan elde edilen ham verileri kullanarak bir dil modelini eğitmiş ve ipuçlarıyla ilgili anahtar kelimeleri tanımlamak için kullanmışlardır. Sonuçlar endişe verici olmuş, dil modelinin genel ipuçlarını %50 doğrulukla çıkardığını ve bunları %29 oranında dikkate değer bir doğrulukla tahmin ettiğini göstermiştir.
Bu güvenlik açığının özellikle kürtaj veya LGBTQ konuları gibi hassas konuların bağlamında sonuçları oldukça endişe vericidir. Bu konular artan şekilde cezalandırılmaktadır ve YZ sohbet botları aracılığıyla bilgi veya destek arayan bireyler kendilerini zarara veya cezaya maruz bırakabilirler.
OpenAI ve Copilot AI’nın sahibi olan Microsoft, güvenlik açığını kabul etmiştir. Ancak, kişisel bilgilerin (isimler gibi) tahmin edilmesinin olası olmadığını kullanıcılara temin etmektedir. Microsoft, kullanıcı korumasını artırmak için bir güncelleme ile sorunu ele almaya söz vermiştir.
Bu gerçekler ışığında, hem YZ geliştiricilerinin hem de kullanıcıların YZ sohbet botu konuşmalarının güvenliğine ve gizliliğine öncelik vermesi önemlidir. Yan kanal saldırılarını önlemek ve hassas bilgilerin gizliliğini sağlamak için sağlam şifreleme önlemleri alınmalıdır.
S.S.S.
The source of the article is from the blog portaldoriograndense.com
