Sigurnosni istraživači nedavno su proveli eksperiment kako bi ocijenili sigurnost popularnih AI chatbot modela i njihovu podložnost jailbreakingu. Jailbreaking se odnosi na zaobilazak sigurnosnih ograničenja i etičkih smjernica koje su implementirale softverske tvrtke. Studija je otkrila da je Grok, chatbot razvijen od strane x.AI tvrtke Elona Muska, pokazao najveću ranjivost među testiranim alatima.
Da bi testirali sigurnosti chatbot modela, istraživači su koristili tri kategorije metoda napada. Prva kategorija uključivala je lingvističke trikove i psihološke poticaje kako bi manipulirali ponašanjem chatbota. Druga kategorija koristila je taktike manipulacije programskog logika iskorištavajući razumijevanje programskih jezika i algoritama chatbota. Treći pristup koristio je napadačke AI metode kako bi ciljao na procesiranje jezika i tumačenje chatbota. Iako su svi chatbotovi uspješno otkrili i spriječili napade napredne AI, neki su bili osjetljiviji na lingvističku manipulaciju i iskorištavanje programskih logika.
Na temelju snage njihovih sigurnosnih mjera, istraživači su rangirali chatbot modele. Meta LLAMA je ispao najsigurniji model među svim testiranim chatbotovima, slijedeći su Claude, Gemini i GPT-4. Grok je rangiran kao najmanje siguran, zajedno s Mistral AI-ovim vlasničkim modelom “Mistral Large”.
Studija ističe važnost open-source rješenja i pravilne implementacije kako bi se poboljšala sigurnost AI-a. Open-source modeli pružaju više mogućnosti za zaštitu, ali razumijevanje i implementacija učinkovitih protokola su ključni. Suradnja s razvijateljima chatbota kako bi se unaprijedile sigurnosne protokole AI-a je bitna, a istraživači izražavaju želju za tim suradnjom. Međutim, istraživači nisu otkrili specifične tehničke detalje kako bi spriječili zloupotrebu.
Studija je također otkrila postojanje raznih foruma gdje se prodaju jailbroken chatbot modeli s ciljem zlonamjernih radnji, poput stvaranja phishing emailova, generiranja govora mržnje i obavljanja ilegalnih aktivnosti. To ukazuje na potencijalne rizike povezane s kompromitiranim interakcijama chatbota.
Kako se društvo sve više oslanja na AI rješenja, osiguranje interakcija s chatbotima postaje ključno. Ako se chatbotovi koriste u automatiziranim procesima donošenja odluka i povezani su s email asistentima ili financijskim aplikacijama, potencijalne posljedice kompromitiranih chatbotova mogu uključivati neautoriziran pristup i kontrolu nad osjetljivim korisničkim informacijama.
Kako biste ostali informirani o najnovijim razvojima u industriji AI-a, možete se obratiti izvorima poput Adversa AI i Decrypt. Ti izvori pružaju vrijedne uvide, vijesti i analize vezane uz sektor AI-a, uključujući tehnologije chatbota i njihovu sigurnost.
FAQ
The source of the article is from the blog meltyfan.es