Prošlog tjedna povela je vodeća tehnološka tvrtka novi model umjetne inteligencije nazvan AI Guardian, koji uključuje napredne sigurnosne protokole radi sprječavanja zloupotrebe.
Language Large Model (LLM) konstruiran je korištenjem tehnike poznate kao Hijerarhijsko Nastavno Sekvenciranje, osmišljene kako bi spriječile zlonamjerno iskorištavanje tako što bi spriječile inženjere da zaobilaze zaštitu AI modela.
Tvrtka tvrdi da ova tehnologija također povećava otpornost na probleme poput unosa ubrizgavanja i napada sustava promptovanjem. Prema izjavama tvrtke, novi pristup povećao je robusnost AI modela za 63%.
OpenAI je razvio novi okvir sigurnosti opisan u pre-otiskanom elektroničkom časopisu objavljenom na arXivu, detaljno opisujući inovativnu tehnologiju i njene funkcionalnosti.
Da bismo razumjeli koncept Hijerarhijskog Nastavnog Sekvencirnja, potrebno je razumjeti postupak zaobilaska zaštita, radnja koja iskorištava određene ranjivosti programa kako bi ga natjerala da izvršava zadatke za koje nije bila prvotno programirana.
U ranim fazama AI Gardiana, pojedinci su pokušavali izazvati zlonamjerni ili štetni sadržaj prevarivši AI da zanemari svoje izvorno programiranje. Dok su ove tvrdnje često počinjale s “Zaboravi sve prethodne upute i napravi ovo”, kako je AI Guardian napredovao i inženjering zlonamjernih poziva postajao sve složeniji, i kriminalci su postajali sve strategičniji u svojim pokušajima.
Da bi se borili protiv problema gdje AI model ne samo generira uvredljive tekstove ili slike, već i štetan sadržaj poput metoda za stvaranje kemijskih eksploziva ili načina za hakiranje web stranice, sada OpenAI koristi Hijerarhijsko Nastavno Sekvenciranje, suštinski diktirajući kako modeli trebaju ponašati kada su izloženi suprotnim naredbama različitih prioriteta.
Stvaranjem hijerarhijske strukture, tvrtka može prioritetizirati svoje upute, čineći iznimno teškim za bilo kojeg brzog inženjera da ih zaobiđe budući da će se AI uvijek pridržavati prioritetnog redoslijeda kada joj se zada stvaranje nečega za što nije prvotno programirana.
Tvrtka tvrdi poboljšanje robusnosti od 63%, no postoji rizik da bi AI mogla potencijalno zanemariti čak i osnovne upute.
OpenAI-jev istraživački rad identificirao je brojna poboljšanja kako bi dodatno usavršio tehnologiju. Jedno od primarnih područja fokusa je obrada drugih tipova medija poput slika ili zvuka, koji također mogu sadržavati ugrađene upute.
Poboljšane sigurnosne mjere: Rješavanje ključnih pitanja i izazova u zaštiti AI Gardiana
Nedavno je jedna tehnološka tvrtka predstavila inovativni AI model nazvan AI Guardian, opremljen naprednim sigurnosnim mjerama kako bi se spriječila zlouporaba. Iako tvrtka tvrdi poboljšanje od 63% u robusnosti AI modela, u sferi naprednih sigurnosnih mjera za AI tehnologije javljaju se nekoliko ključnih pitanja i izazova.
Ključna pitanja:
1. Kako tehnika Hijerarhijskog Nastavnog Sekvenciranja koja je implementirana u AI Guardian modelu poboljšava sigurnosne značajke?
AI Guardian koristi Hijerarhijsko Nastavno Sekvenciranje za prioritetizaciju uputa, što otežava inženjerima zaobilaženje sigurnosnih protokola i iskorištavanje ranjivosti u AI modelu. Ovaj pristup određuje ponašanje AI modela kada se suoči s proturječnim naredbama različitih prioriteta.
2. Koje su prednosti i nedostaci korištenja naprednih sigurnosnih protokola poput Hijerarhijskog Nastavnog Sekvenciranja?
Prednosti:
– Poboljšana zaštita od zlonamjerne zlouporabe i iskorištavanja AI tehnologija.
– Povećana robusnost i otpornost na probleme kao što su unosi ubrizgavanja i napadi promptovanjem sustava.
– Jasna prioritetizacija uputa za AI model, smanjujući rizik zaobilaženja sigurnosnih mjera.
Nedostaci:
– Potencijalni rizik od AI-a koji zanemaruje osnovne upute ili krivo tumači prioritete.
– Neprekidna potreba za usavršavanjem i ažuriranjem kako bi se adresirale evoluirajuće prijetnje i ranjivosti.
Ključni izazovi i kontroverze:
1. Postoje li etička razmatranja u vezi s korištenjem naprednih sigurnosnih mjera u AI tehnologijama?
Osiguravanje da sigurnosne mjere ne narušavaju prava na privatnost ili guše inovaciju ključno je. Balansiranje sigurnosti s etičkim razmatranjima ostaje izazov u razvoju i implementaciji AI sustava.
2. Kako tvrtke mogu adresirati pitanje da AI potencijalno generira štetan sadržaj unatoč sigurnosnim protokolima?
Iako napredak poput Hijerarhijskog Nastavnog Sekvenciranja ima za cilj spriječiti zlonamjerno iskorištavanje, potrebno je kontinuirano praćenje i strategije ublažavanja kako bi se otkrile i adresirale bilo kakve pojave generiranja štetnog sadržaja od strane AI sustava.
Rješavanje prednosti i nedostataka:
Iako poboljšane sigurnosne mjere poput onih implementiranih u AI Gardiana nude značajnu zaštitu od zloupotrebe i iskorištavanja, postoje inherentni izazovi koje tvrtke moraju savladati. Kontinuirano istraživanje, razvoj i suradnja u industriji su ključni za prevladavanje tih izazova i osiguranje odgovorne uporabe AI tehnologija.
Za više informacija o sigurnosti AI-a i novim tehnologijama, posjetite OpenAI.
Ovaj članak ističe razvijajući se krajolik sigurnosnih mjera AI-a i složenosti povezane s osiguravanjem sigurne i etičke implementacije AI tehnologija u različitim sferama.
The source of the article is from the blog maltemoney.com.br