Nova raziskava je identificirala tveganja v ponudnikih umetne inteligence kot storitve (AI-as-a-service (AIaaS)). Raziskovalci so osvetlili ranljivosti, ki se pojavljajo pri ponudnikih AI kot storitve, pri čemer so poudarili dve ključni tveganji, ki ju lahko izkoristijo napadalci. To postavlja vprašanja o varnosti sistemov za umetno inteligenco in varovanju občutljivih podatkov.
Ključna tveganja, ugotovljena v raziskavi, vključujejo možnost, da napadalci pridobijo privilegije, dostop do modelov drugih strank in celo prevzamejo nadzor nad neprekinjenimi postopki integracije in neprekinjenega prenosa. To pomeni, da bi napadalci lahko manipulirali modele AI za izvajanje napadov med strankami, kar predstavlja pomembno grožnjo ponudnikom storitev AI. Posledice takšnih napadov bi lahko bile uničujoče, saj bi lahko bili ogroženi milijoni zasebnih modelov in aplikacij AI, shranjenih pri ponudnikih AI kot storitve.
Ta tveganja se pojavijo v kontekstu cevovodov strojnega učenja, ki so postali nova tarča za napade na dobavno verigo. Platforme, kot je Hugging Face, ki gostijo skladišča modelov AI, so postale privlačne tarče za napadalce, ki želijo izvleči občutljive informacije in pridobiti neavtoriziran dostop do ciljnih okolij.
Ranljivosti, ki so bile odkrite v raziskavi, so rezultat prevzema skupne infrastrukture za sklepanje sklepov in prevzema skupnega CI/CD. To omogoča napadalcem, da naložijo nepotrjene modele v formatu pickle in izvedejo napad na dobavno verigo, s prevzemom nadzora nad CI/CD cevovodom. Z izkoriščanjem teh ranljivosti lahko napadalci vdrejo v storitev, ki izvaja prilagojene modele, ogrozijo celoten sistem in pridobijo neavtoriziran dostop do modelov drugih strank.
Za demonstracijo resnosti teh tveganj so raziskovalci izdelali model PyTorch, ki je lahko izvedel poljubno kodo ob nalaganju. Ugotovili so, da je Hugging Face dovolil izvedbo naloženega modela, kljub temu da je bil označen kot nevaren. Z izkoriščanjem napak v konfiguracijah Amazon Elastic Kubernetes Service (EKS) bi lahko napadalci zvišali privilegije in se lateralno premikali znotraj skupine.
Za reševanje teh ranljivosti raziskovalci priporočajo omogočanje IMDSv2 s Hop Limit, kar preprečuje posodobitve dostopa do storitev in pridobivanje neavtoriziranih privilegijev znotraj skupine. Poleg tega Hugging Face spodbuja uporabnike, naj uporabljajo modele samo iz zaupanja vrednih virov, omogočijo večfaktorsko avtentikacijo in se izogibajo uporabi datotek v formatu pickle v produkcijskih okoljih.
Je ključno priznati te ugotovitve in sprejeti potrebne predhodne varnostne ukrepe pri uporabi modelov AI, zlasti tistih v formatu pickle. Zagotavljanje peskovnika za nezaupanja vredne modele AI je bistvenega pomena za zmanjšanje varnostnih tveganj. Poleg tega je priporočljivo biti previden pri zanašanju na velike jezikovne modele (LLM), kot je prikazano, da so paketi z zlonamerno kodo lahko distribuirani programerjem programske opreme, ki niso pozorni.
Ker se področje umetne inteligence nadaljuje z napredovanjem, je bistveno, da se prednostno obravnavajo varnostni ukrepi za zaščito občutljivih podatkov in omilitev tveganj, povezanih z zlonamernimi napadi.
Ranljivosti, izpostavljene v študiji, dvigajo skrbi glede celotne varnosti ponudnikov AI kot storitev in varovanja občutljivih podatkov. Glede na naraščajočo odvisnost od sistemov AI in potencialne posledice napadov, je ključno razumeti industrijo in tržne napovedi ter težave, povezane s to industrijo.
Industrija AI kot storitev je v zadnjih letih doživela pomemben razvoj, ki ga poganja naraščajoče povpraševanje po AI tehnologijah v različnih sektorjih. Po napovedih trga naj bi globalni trg AI kot storitev do leta 2023 dosegel vrednost 10,88 milijarde, z letno stopnjo rasti 48,2% v obdobju napovedi (Vir: MarketsandMarkets). To kaže na naraščajočo sprejetost rešitev AI kot storitve s strani podjetij po vsem svetu.
Vendar pa ranljivosti, ugotovljene v študiji, poudarjajo potencialna tveganja, povezana z uporabo ponudnikov AI kot storitve. Napadalci lahko izkoriščajo te ranljivosti za pridobitev neavtoriziranega dostopa, manipulacijo modelov AI in ogrožanje občutljivih podatkov. To predstavlja pomembne izzive tako za ponudnike storitev AI kot za njihove stranke, saj ogroža zaupanje in varnost sistemov.
Eden od ključnih težav, povezanih z industrijo, je vedno večja prisotnost napadov na dobavne verige, usmerjenih v cevovode strojnega učenja. Ponudniki storitev AI, kot je Hugging Face, ki gostijo skladišča modelov AI, postanejo privlačne tarče za napadalce, ki želijo izvleči občutljive informacije in pridobiti neavtoriziran dostop do ciljnih okolij. To poudarja potrebo po robustnih varnostnih ukrepih skozi celoten življenjski ciklus modelov AI.
Za obvladovanje teh izzivov bi morali ponudniki storitev AI in uporabniki poudariti varnostne ukrepe. To vključuje izvajanje močnih mehanizmov avtentikacije, uporabo modelov le iz zaupanja vrednih virov in izogibanje uporabi datotek v formatu pickle, ki so bile prepoznane kot potencialna ranljivost. Poleg tega omogočanje varnih konfiguracij, kot je IMDSv2 s Hop Limit, lahko pomaga preprečiti neavtorizirane privilegije in omejiti dostop znotraj skupine.
Ker raziskovalci še naprej odkrivajo ranljivosti in potencialna tveganja v AI sistemih, je za industrijo ključno sodelovati in deliti znanje za izboljšanje varnostnih praks. Podjetja in organizacije naj bodo informirani o najnovejših varnostnih razvojih in najboljših praksah za zaščito sebe in svojih strank pred morebitnimi grožnjami.
V zaključku ranljivosti, identificirane pri ponudnikih AI kot storitve, poudarjajo potrebo po robustnih varnostnih ukrepih in previdnostnih ukrepih pri uporabi modelov AI. S hitro rastjo industrije AI kot storitve in naraščajočo odvisnostjo od AI tehnologij je ključno prioritetno obravnavati varnost, da se zaščiti občutljive podatke in omili tveganja, povezana z zlonamernimi napadi.
Za več informacij o industriji AI kot storitev, tržnih napovedih in povezanih težavah lahko obiščete naslednje povezave:
– [Tržna napoved AI kot storitev s strani MarketsandMarkets](https://www.marketsandmarkets.com/)
– Hugging Face: Platforma za gostovanje modelov AI, omenjena v članku.
The source of the article is from the blog myshopsguide.com