Nova istraživanja su otkrila ranjivosti prisutne kod ponuditelja umjetne inteligencije (UI) kao usluge, ističući dva ključna rizika koji potencijalno mogu biti iskorišteni od strane prijetnji. To postavlja pitanja o sigurnosti UI sustava i zaštiti osjetljivih podataka.
Rizici identificirani u istraživanju uključuju mogućnost da prijetnje steknu privilegije, pristupe modelima drugih korisnika te čak preuzmu kontrolu nad kontinuiranim integracijskim i kontinuiranim isporukama pipelina. To znači da napadači mogu manipulirati UI modelima kako bi izveli napade preko korisnika, što predstavlja značajnu prijetnju pružateljima usluga UI. Posljedice takvih napada mogu biti razorne jer bi milijuni privatnih UI modela i aplikacija pohranjenih kod ponuditelja UI kao usluge mogli biti ugroženi.
Ove ranjivosti se pojavljuju u kontekstu pipelina strojnog učenja, koji su postali nova meta za napade na dobavni lanac. Platforme poput Hugging Face, koje hostiraju repozitorije UI modela, postale su privlačne mete za napadače koji traže da izvuku osjetljive informacije i steknu neovlašten pristup ciljanim okruženjima.
Ranjivosti identificirane u istraživanju proizlaze iz preuzimanja zajedničke infrastrukture za zaključivanje zaključaka i zajedničkog preuzimanja CI/CD-a. To omogućuje napadačima da učitaju nepovjerljive modele u pikl formatu i izvedu napad na dobavni lanac preuzimajući CI/CD pipelinu. Iskorištavanjem ovih ranjivosti, napadači mogu probiti uslugu koja pokreće prilagođene modele, ugroziti cijeli sustav i dobiti neovlašten pristup modelima drugih korisnika.
Kako bi demonstrirali ozbiljnost ovih rizika, istraživači su izradili PyTorch model koji je mogao izvršiti proizvoljni kôd pri učitavanju. Otkrili su da je Hugging Face dopustio izvođenje učitanog modela čak i ako je smatran opasnim. Iskorištavanjem pogrešno konfiguriranih postavki Amazon Elastic Kubernetes Service (EKS), napadači bi mogli eskalirati privilegije te se širiti prema bazenu resursa.
Da bi riješili ove ranjivosti, istraživači preporučuju omogućavanje IMDSv2 s ograničenjem Hop, čime se sprečava pristup posudama metapodataka primjeraka i dobivanje neovlaštenih privilegija unutar bazena resursa. Nadalje, Hugging Face potiče korisnike da koriste modele samo iz pouzdanih izvora, omoguće višefaktorsku autentifikaciju i izbjegavaju korištenje pikl datoteka u produkcijskim okruženjima.
Važno je prepoznati ova saznanja i poduzeti potrebne mjere opreza prilikom korištenja UI modela, posebice onih u pikl formatu. Osiguravanje izoliranog okruženja za nepovjerljive UI modele ključno je kako bi se smanjili sigurnosni rizici. Nadalje, preporučljivo je oprezno koristiti velike jezične modele (LLM), kao što je demonstrirano potencijalom za distribuciju zlonamjernih kod paketa među nesvjesnim softverskim developerima.
Kako se područje UI nastavlja razvijati, bitno je prioritet staviti na sigurnosne mjere kako bi se zaštitili osjetljivi podaci i ublažili rizici povezani s zlonamjernim napadima.
Postavljeni rizici u istraživanju postavljaju pitanja o sveukupnoj sigurnosti ponuditelja UI kao usluge i o zaštiti osjetljivih podataka. S obzirom na sve veću ovisnost o UI sustavima i potencijalne posljedice napada, bitno je razumjeti industriju i prognoze tržišta, kao i probleme povezane s industrijom.
Industrija UI kao usluge doživjela je značajan rast u posljednjim godinama, potaknuta sve većom potražnjom za UI tehnologijama u različitim sektorima. Prema prognozama tržišta, globalno tržište UI kao usluge očekuje se da će doseći vrijednost od 10,88 milijardi dolara do 2023., s godišnjim stopama rasta od 48,2% tijekom razdoblja prognoze. To ukazuje na rastuću primjenu UI kao usluge rješenja od strane tvrtki diljem svijeta.
Međutim, ranjivosti identificirane u istraživanju ističu potencijalne rizike koji dolaze s korištenjem ponuditelja UI kao usluge. Napadači mogu iskoristiti ove ranjivosti za stjecanje neovlaštenog pristupa, manipuliranje UI modelima i ugrožavanje osjetljivih podataka. Ovo predstavlja značajne izazove kako za ponuditelje usluga UI, tako i za njihove korisnike, budući da ugrožava povjerenje i sigurnost sustava.
Jedan od ključnih problema povezanih s industrijom je sveprisutnost napada na dobavni lanac koji ciljaju pipelinama strojnog učenja. Ponuditelji usluga UI, poput Hugging Face-a, koji hostiraju repozitorije UI modela postaju privlačne mete za napadače koji traže izvlačenje osjetljivih informacija i stjecanje neovlaštenog pristupa ciljanim okruženjima. To naglašava potrebu za snažnim sigurnosnim mjerama tijekom cijelog životnog ciklusa UI modela.
Kako bi se suočili s tim izazovima, ponuditelji usluga UI i korisnici trebali bi dati prednost sigurnosnim mjerama. To uključuje implementaciju snažnih mehanizama autentifikacije, korištenje modela samo iz pouzdanih izvora i izbjegavanje korištenja pikl datoteka, koje su identificirane kao potencijalna ranjivost. Dodatno, omogućavanje sigurnih konfiguracija, poput IMDSv2 s ograničenjem Hop, može pomoći u sprječavanju neovlaštenih privilegija i ograničavanju pristupa unutar bazena resursa.
Dok istraživači nastavljaju otkrivati ranjivosti i potencijalne rizike u UI sustavima, bitno je da industrija surađuje i dijeli znanje kako bi unaprijedila sigurnosne prakse. Tvrtke i organizacije trebaju biti ažurirane s najnovijim sigurnosnim razvojima i najboljim praksama kako bi se zaštitile i osigurale od potencijalnih prijetnji.
Zaključno, ranjivosti identificirane kod ponuditelja UI kao usluge ističu potrebu za snažnim sigurnosnim mjerama i oprezom prilikom korištenja UI modela. S razvojem industrije UI kao usluge i sve većom ovisnosti o UI tehnologijama, bitno je dati prioritet sigurnosti radi zaštite osjetljivih podataka i ublažavanja rizika povezanih s zlonamjernim napadima.
Za više informacija o industriji UI kao usluge, prognozama tržišta i povezanim pitanjima, možete pogledati sljedeće linkove:
– Prognoza tržišta UI kao usluge od strane MarketsandMarkets
– Hugging Face: Platforma za hostiranje UI modela spomenuta u članku
The source of the article is from the blog regiozottegem.be