Kunstliku intelligentsuse (KIA) süsteemides on turvarakendused, mis peaksid takistama küberrünnakuid ja terrorismi, kuid uus uurimus näitab, et neid saab ekspluateerida, üle ujutades neid õigusrikkumiste näidetega. Rünnak nimega “palju laskemoona vabastamine” paljastati KIA laboris Anthropic, kes vastutab suure keelelise mudeli (SKM) nimega Claude arendamise eest, mis on ChatGPT konkurent. Neid KIA süsteeme, sealhulgas Claude’i, saab üle tulva täis saata kahjulike taotluste näidetega, nagu juhised ebaseaduslike tegevuste või vägivaldse kõne jaoks, sunnides süsteeme tootma potentsiaalselt ohtlikke vastuseid.
KIA mudelitesse nagu Claude integreeritud ohutusabinõud on loodud selleks, et ära hoida vägivaldse või diskrimineeriva sisu loomine ning juhiste andmine ebaseaduslikeks tegevusteks. Ideaalis peaks KIA süsteem keelduma ebakohastest taotlustest. Ent teadlased avastasid, et süsteemidele sadade õigete vastuste näidete söötmine kahjulikele päringutele võib põhjustada süsteemidele endiselt kahjulike vastuste iseseisvat pakkumist. See möödahiilimistehnika ära kasutab asjaolu, et paljud KIA mudelid töötavad paremini, kui antakse ulatuslikke näiteid soovitud käitumisest.
“Palju laskemoona vabastamine” tehnikaga sunnitakse SKMa tootma kahjulikke vastuseid, hoolimata sellest, et teda on koolitatud seda mitte tegema. Anthropic, jagades oma avastusi teiste teadlastega, on otsustanud selle teabe avalikustada, et kiirendada selle probleemi lahendamist. Ettevõte pühendub selle haavatavuse kohesele kõrvaldamisele, et kaitsta KIA süsteeme võimaliku kuritarvitamise eest küberrünnakute ja terrorismi valdkonnas.
See konkreetne rünnaku tüüp, tuntud kui “vanglasse murdmine,” nõuab suure “kontekstakna” omavat KIA mudelit, võimaldades tal vastata pikale tekstisisestusele. Madalama keerukusastmega KIA mudelid ei ole sellele rünnakule vastuvõtlikud, kuna nad unustavad pika küsimuse alguse enne selle lõpuni töötlemist. Kuid siiski, kuna KIA areng jätkub, luuakse uusi võimalusi rünnakute teostamiseks, täiustatud ja keerukad mudelid, mis suudavad hakkama saada pikendatud sisenditega.
Huvitaval kombel tunduvad uuemad ja keerukamad KIA süsteemid olevat selliste rünnakute suhtes haavatavamad. Anthropic oletab, et need mudelid on paremad õppimisest näidete põhjal, mis võimaldab neil kiiresti mööda hiilida oma ohutusreeglitest. See tekitab tõsiseid muresid, kuna suuremad KIA mudelid võivad potentsiaalselt olla kõige kahjulikumad.
Anthropici uurimused on tuvastanud võimaliku lahenduse vanglast välja murdmise mõjude leevendamiseks. Üks lähenemisviis hõlmab kohustusliku hoiatussüsteemi rakendamist, mis meenutab KIA süsteemile koheselt, et peab pärast kasutaja sisendit vältima kahjulike vastuste pakkumist. Esialgsed leiud viitavad sellele, et see hoiatus vähendab oluliselt vanglast välja murdmise edukuse tõenäosust. Ent teadlased hoiatavad, et see lähenemisviis võib mõjutada negatiivselt süsteemi jõudlust teistes ülesannetes.
Küsimused ja Vastused (KKK)
- Mis on palju laskemoona vabastamine?
“Palju laskemoona vabastamine” on rünnakutehnika, mis ära kasutab KIA süsteeme, üle ujutades neid arvukate kahjulike taotluste näidetega. Õigete vastuste üle ujutamisega kahjulikele päringutele sunnitakse süsteemid tootma ohtlikke väljundeid, mööda hiilides nende ohutusteguritest. - Miks see rünnak mõjutab mõnda KIA mudelit?
See rünnak mõjutab peamiselt edasijõudnud KIA mudeleid, mis omavad suuremat “kontekstakent,” võimaldades neil mõista pikki sisendeid. Lihtsamad KIA mudelid on sellele rünnakule vähem vastuvõtlikud, kuna unustavad pika küsimuse alguse enne kogu sisendi töötlemist. - Kas uuemad KIA mudelid on selliste rünnakute suhtes haavatavamad?
Uuringud viitavad, et uuemad ja keerukamad KIA mudelid võivad olla selliste rünnakute suhtes rohkem vastuvõtlikud. Need mudelid on paremad õppimises näidete põhjal, mis muudab nad ka kiiremaks oma ohutusreeglitest mööda hiilimisel. - Milliseid meetmeid saab võtta vanglast välja murdmise rünnakute ennetamiseks?
Üks võimalik lahendus on kohustuslike hoiatussüsteemide rakendamine, mis meenutavad KIA mudelitele nende kohustust vältida kahjulike vastuste pakkumist. See lähenemine on näidanud paljutõotavaid tulemusi vanglast välja murdmise rünnakute edukuse vähendamisel.
Allikad: