Naujosios technologijos ir inovacijos sparčiai plinta, įgaunant vis akivaizdesnio vaidmens mūsų gyvenimuose. Pavyzdžiui, kompanija Microsoft neseniai pristatė naują saugumo sistemą, siekdama apsaugoti savo AI chatbotus nuo įvairių internetinių išpuolių.
Direktiniai Išpuoliai: Kova su Manipuliacija
Pirmasis atakos tipas, kurį naujasis saugumo įrankis aiškina, yra direktinis išpuolis arba „jailbreak”. Šioje situacijoje chatboto naudotojas ketina sąmoningai sukurti instrukciją, siekianti manipuliuoti dirbtinį intelektą ignoruoti savo standartines taisykles ir apribojimus. Įtraukdami žodžius ar frazes kaip „ignoruoti prieš tai buvusias instrukcijas” ar „sistemos perrašymas”, asmuo bando apeiti saugumo priemones.
Ne tiesioginiai Išpuoliai: Apsauga nuo Kibernetinių Grėsmių
Antras išpuolių būdas, vadinamas netiesioginiu įsiveržimu arba tarpdomeniu skatinančiu įskaitymą, apima informacijos siuntimą chatboto naudotojui su tikslu vykdyti kibernetinį išpuolį. Hekeriai ar piktnaudžiavę asmenys išnaudoja išorinę informaciją, pvz., elektroninius laiškus ar dokumentus, kad įsilaužtų į chatboto sistemą.
Naujosios technologijos: Stiprinant Chatboto Saugumą
Kovoti su tiek direktiniais, tiek netiesioginiais išpuoliais, Microsoft Prompt Shields integruojasi su turinio filtrais „Azure OpenAI Service”. Pasitelkus mašininį mokymą ir natūralios kalbos apdorojimą, ši funkcija siekia aptikti ir pašalinti potencialias grėsmes vartotojų instrukcijose ir trečiųjų šalių duomenyse.
Šviežia perspektyva: OBO
Be Prompt Shields, Microsoft pristatė spotlighting, naujųjų kompiuterizuotų modelių šeimą. Ši inovatyvi priemonė padeda aiškiau nustatyti tikrus AI instrukcijas, atskiriant nuo tų, kurie gali kelti pavojų ar neturėti patikimumo.
Dažniausiai Užduodami Klausi mūsų
1. Kas yra direktiniai išpuoliai prieš AI chatbotus?
Direktiniai išpuoliai apima manipuliavimą AI chatbotais, kuriant instrukcijas, kurios apeina jų įprastines taisykles ir apribojimus.
2. Kas yra netiesioginiai išpuoliai prieš AI chatbotus?
Netiesioginiai išpuoliai įvyksta, kai hekeriai ar piktnaudžiavę asmenys naudoja išorinę informaciją, siekdami išnaudoti chatbotus ir vykdyti kibernetinius išpuolius.
3. Kaip Prompt Shields apsaugo nuo išpuolių?
Prompt Shields integruojasi su turinio filtrų „Azure OpenAI Service”, pasitelkiant mašininį mokymą ir natūralios kalbos apdorojimą, siekiant aptikti ir pašalinti potencialias grėsmes.
4. Koks yra spotlighting?
Spotlighting yra Microsoft įdiegta naujųjų kompiuterizuotų modelių šeima, padedanti AI modeliams geriau atpažinti patikimas AI instrukcijas ir atskirti nuo tų, kurie gali kelti pavojų.
5. Kur galima naudotis Prompt Shields?
Prompt Shields šiuo metu yra prieinamas „Azure AI Content Safety” peržiūros režime. Netrukus jis bus prieinamas „Azure AI Studio”, o nuo balandžio 1 d. – „Azure OpenAI Service”.
Siekdami sužinoti daugiau apie AI chatbotus ir technologijas, kurių įdiegia Microsoft, lankykitės Microsoft AI blog’e. Šiame bloge rasite naujausių atnaujinimų bei įžvalgų į dirbtinio intelekto pasaulį, įskaitant pažangą, taikymą ir iššūkius.
The source of the article is from the blog mgz.com.tw