Az AI-as-a-Service (mesterséges intelligencia mint szolgáltatás) területen végzett új kutatások feltárták az esetleges sebezhetőségeket, melyek az ilyen típusú szolgáltatók rendszereiben rejlenek. Kiemelték két kritikus kockázatot, melyeket potenciálisan kihasználhatnak a fenyegető szereplők. Ez komoly aggodalmakat vet fel az AI rendszerek biztonsága és érzékeny adatok védelme tekintetében.
Azonosított kockázatok közé tartozik a fenyegető szereplők számára nyújtott kiváltságok, más ügyfelek modelljeinek elérése, sőt akár az állandó integrációs és állandó kiadási csővezeték felett történő irányítás átvétele. Ez azt jelenti, hogy a támadók manipulálhatják az AI modelleket, hogy kereszt-ügyfél attackokat hajtsanak végre, komoly fenyegetést jelentve az AI szolgáltatók számára. Ezeknek a támadásoknak a következményei pusztítóak lehetnek, mivel milliókra tehető azoknak a privát AI modelleknek és alkalmazásoknak a száma, melyeket az AI-as-a-Service szolgáltatók tárolnak.
Ezek a kockázatok a gépi tanulási csővezetékek kontextusában merülnek fel, melyek új célpontjává váltak az ellátási lánc támadásoknak. A Hugging Face és hasonló platformok, melyek AI modelleket tárolnak, vonzó célpontokká váltak a fenyegető szereplők számára, akik érzékeny információkat igyekeznek kinyerni és engedély nélkül hozzáférést szerezni a céleszközökhöz.
A kutatás során azonosított sebezhetőségek az Együttműködési infrastruktúra átvétele és a CI/CD (folyamatos integráció/folyamatos kiadási) infrastruktúrájának megosztása eredményeként jönnek létre. Ez lehetővé teszi a fenyegető szereplők számára, hogy nem megbízható modelleket töltsenek fel pickle formátumban és ellátási lánc támadást hajtsanak végre a CI/CD csővezeték átvétele révén. Ezeket a sebezhetőségeket kihasználva a támadók meg tudják szegni azaz a szolgáltatást, mely üzemelteti az egyedi modelleket, veszélybe sodorhatják az egész rendszert és észleletlen hozzáférést szerezhetnek más ügyfelek modeljeihez.
Ezen kockázatok súlyosságának bemutatása érdekében a kutatók egy PyTorch modellt készítettek, mely képes volt tetszőleges kódot végrehajtani a betöltés során. Megállapították, hogy a Hugging Face lehetővé tette a feltöltött modell végrehajtását, még akkor is, ha veszélyesnek bizonyult. Az Amazon Elastic Kubernetes Service (EKS) miszkonfigurációinak kihasználásával a fenyegető szereplők kiváltságokat emelhetnek és oldalirányban tudnak mozogni a klaszterben belül.
Az ilyen sebezhetőségek kezelésére a kutatók azt javasolják, hogy engedélyezni kell az IMDSv2-t Hop Limit-tel, ezzel megakadályozva, hogy a podok hozzáférjenek az Instance Metadata Service-hez és jogosulatlan kiváltságokat szerezzenek a klaszteren belül. Ezen felül a Hugging Face arra ösztönzi a felhasználókat, hogy csak megbízható forrásokból származó modelleket használjanak, engedélyezzék a több tényezős azonosítást és kerüljék a pickle fájlok használatát a termelési környezetben.
Jóváhagyja ezeknek a megállapításoknak a tudatában lenni és szükséges óvintézkedéseket tenni az AI modellek használata során, különösen azokat, melyek pickle formátumban vannak. Lényeges egy homokozott környezet biztosítása a nem megbízható AI modellek számára, hogy minimalizálni lehessen a biztonsági kockázatokat. Továbbá, óvatosnak lenni a nagy nyelvi modellek (LLM-ek) esetén is ajánlott, ahogyan azt az is bemutatta, hogy milyen veszélyes lehet rosszindulatú kódpakolásokat szétosztani az őszintétlen szoftverfejlesztők számára.
Ahogyan az AI területe tovább fejlődik, kiemelten fontosnak tartani a biztonsági intézkedéseket az adatok védelmének érdekében és azoknak a kockázatoknak a csökkentése érdekében, melyek a rosszindulatú támadásokkal járnak.
A kutatás által kiemelt sebezhetőségek aggályokat vetnek fel az AI-as-a-Service szolgáltatók általános biztonsága és az érzékeny adatok védelme tekintetében. Tekintettel az AI rendszerek iránti növekvő bizalomra és a támadások potenciális következményeire, kulcsfontosságú az iparág és piaci előrejelzések megértése, valamint az azokhoz kapcsolódó különféle problémák.
Az AI-as-a-Service iparág jelentős növekedést tapasztalt az elmúlt években, az AI technológiák iránti növekvő keresleten alapulva különböző ágazatokban. A piaci előrejelzések szerint a globális AI-as-a-Service piac értékét az 2023-ra várakozások szerint elérheti a 10,88 milliárd dollárt, a prognosztizált időszak alatt összetett éves növekedési ütemmel (CAGR) 48,2% (Forrás: MarketsandMarkets). Ez azt mutatja, hogy a vállalatok szerte a világon egyre inkább kezdik alkalmazni az AI-as-a-Service megoldásokat.
Azonban a kutatások által azonosított sebezhetőségek felhívják a figyelmet az AI-as-a-Service szolgáltatók használatával járó potenciális kockázatokra. A fenyegető szereplők kihasználhatják ezeket a sebezhetőségeket, hogy jogosulatlan hozzáférést szerezzenek, manipulálják az AI modelleket és veszélyeztessék az érzékeny adatokat. Ez jelentős kihívások elé állítja az AI szolgáltatókat és ügyfeleiket is, mivel fenyegeti a rendszerek bizalmát és biztonságát.
Az iparhoz kapcsolódó egyik fő probléma az ellátási lánc támadások egyre gyakoribbá válása, melyek a gépi tanulási csővezetékeket célozzák meg. Az AI szolgáltatók, mint például a Hugging Face, melyek AI modelleket tárolnak, vonzó célpontokká válnak a fenyegető szereplők számára, akik érzékeny információkat kínálnak és jogosulatlan hozzáférést szereznek a céleszközökhöz. Ez aláhúzza a szükségességét annak, hogy erős biztonsági intézkedéseket alkalmazzunk az egész AI modell életciklus során.
Ezen kihívások kezelése érdekében az AI szolgáltatóknak és a felhasználóknak hangsúlyt kell helyezniük a biztonsági intézkedésekre. Ideértve az erős hitelesítési mechanizmusok bevezetését, csak megbízható forrásokból származó modellek használatát, és a pickle fájlok elkerülését, melyet potenciális sebezhetőségként azonosítottak. Ezenkívül a biztonságos konfigurációk, mint például az IMDSv2 Hop Limit, engedélyezése segíthet megelőzni a jogtalan jogosultságokat és korlátozni az hozzáférést a klaszteren belül.
Amint a kutatók továbbra is felfedezik a sebezhetőségeket és a potenciális kockázatokat az AI rendszerekben, fontos az iparág számára, hogy együttműködjön és megossza a tudást annak érdekében, hogy javítsa a biztonsági gyakorlatokat. Vállalatoknak és szervezeteknek naprakészen kell maradniuk a legújabb biztonsági fejleményekkel és legjobb gyakorlatokkal kapcsolatban, hogy megvédjék magukat és ügyfeleiket a lehetséges fenyegetésektől.
Végső soron az AI-as-a-Service szolgáltatók által azonosított sebezhetőségek rávilágítanak a szükségességére erős biztonsági intézkedéseknek és óvintézkedéseknek az AI modellek használatakor. Az AI-as-a-Service iparág növekedésével és az AI technológiák iránti növekvő függésével kiemelt fontosságú a biztonság előtérbe helyezése az érzékeny adatok védelmének érdekében és a rosszindulatú támadásokkal járó kockázatok enyhítése érdekében.
További információkért az AI-as-a-Service iparágáról, piaci előrejelzéseiről és kapcsolódó témákról, kérjük, forduljon az alábbi linkekhez:
– [AI-as-a-service piaci előrejelzés a MarketsandMarkets-től](https://www.marketsandmarkets.com)
– Hugging Face: az említett AI modelltároló platform.
The source of the article is from the blog reporterosdelsur.com.mx