Az Illinois-i Urbana-Champaign-i Egyetem kutatói publikáltak egy új tanulmányt, amely egy jelentős kockázatra hívja fel a figyelmet az előrehaladott mesterséges intelligencia rendszerekben. E szerint a GPT-4 nyelvi modell, ami a ChatGPT család része, képes önállóan azonosítani és kihasználni a biztonsági sebezhetőségeket az információs rendszerekben, ha részletes leírásokhoz fér hozzá ezekről a hibákról.
A tanulmány egy 15 kiszivárgott sebezhetőségekből álló adathalmazt használt, amit „egynapos” sebezhetőségeknek neveztek, melyek már ismertek a nyilvánosság előtt, ellentétben a zéró napi sebezhetőségekkel. A kutatók megfigyelték, hogy az AI, a GPT-4 képes volt kihasználható aspektusokat találni az esetek 87%-ában ezekben a sebezhetőségekben, sugallva, hogy a modell potenciálisan olyan lépéseket hajthat végre, mint egy hackereké. Ellenben korábbi modellek, mint a GPT 3.5 és egyéb nyílt forráskódú változatok nem mutatták ugyanezt a képességet, 0%-os hatékonysági rátát produkálva ezekben a tesztekben.
Fontos megjegyezni, hogy a tanulmány nem tartalmazta a közvetlen versenytársakat, mint a Google Gemini 1.5 Pro-t az elérhetőségi problémák miatt, de a kutatók remélik, hogy ezeket a modelleket jövőbeli vizsgálatokban ki tudják majd értékelni. Az UIUC Daniel Kang-ja elmondta a The Registernek, hogy a GPT-4 önállóan képes követni a szükséges lépéseket a sebezhetőségek kihasználásához, kiemelve annak veszélyes eszközként történő felhasználását elkövető személyek kezében, lehetővé téve a kiber-támadások végrehajtását.
A nyelvi modellek, mint a GPT-4 gyors fejlődése arra utal, hogy a jövőbeli iterációk, mint a várt GPT-5, még képzettebbek lehetnek az ilyen feladatokban, ezzel növelve a potenciális biztonsági kockázatokat. Ezen értekezés fényében az erőteljesebb kiberbiztonsági intézkedések fontossága nyilvánvalóvá válik ahogy az AI tovább fejlődik.
Kérdések és ellentmondások:
Az előrehaladott AI modellek, mint a GPT-4 használatával kapcsolatos egyik jelentős kihívás az, hogy biztosítsák a felelős bevetésüket, és ne járuljanak hozzá véletlenül a kiberbiztonsági fenyegetésekhez. Az ilyen AI eszközök esetleges rosszindulatú célokra történő használata etikai és jogi aggodalmakat vet fel, amelyekkel a kutatóknak és a döntéshozóknak foglalkozniuk kell. Az AI képességek fejlesztésének és finomításának etikai megközelítése és a sebezhetőségek azonosítása kétélű kardként értelmezhető: előnyös a biztonság javítása szempontjából, de veszélyes is lehet ha helytelenül alkalmazzák.
Előnyök:
Az előrehaladott AI modellek segíthetnek a sebezhetőségek előre felismerésében és javításában, ezzel megerősítve a kiberbiztonsági védelmet. Jelentősen felgyorsíthatják a sebezhetőségértékelés folyamatát, csökkentve a biztonsági szakembereknek a problémák azonosítására és megoldására fordított időt. Ez a képesség a komplex rendszerek gyors elemzésére és megértésére is kulcsfontosságú erőforrás lehet a kiberbiztonsági személyzet képzésében és hatékonyabb, intelligensebb biztonsági protokollok kifejlesztésében.
Hátrányok:
Az elsődleges hátrány a visszaélés kockázata. Az előrehaladott AI modellek, mint a GPT-4, amelyek képesek azonosítani és kihasználni a sebezhetőségeket, erőteljes eszközöket szolgáltathatnak a kiberbűnözők számára, hogy kifinomultabb támadásokat hajtsanak végre. Egy másik hátrány az ilyen AI rendszerekre való esetleges függés, amely emberi felügyelet csökkentéséhez és a kritikus gondolkodásnak a kiberbiztonsági tevékenységekben történő csökkentéséhez vezethet. Az is fennáll a kockázata, hogy ezek az AI rendszerek hamis pozitívumokat azonosíthatnak, ami felesleges vagy elhibázott lépésekhez vezethet.
Az etikai megfontolásokhoz és a megelőző intézkedésekhez kapcsolódva az OpenAI nevű szervezet, a GPT sorozat mögött, felelős AI fejlesztési és bevetési irányelveket dolgozott ki, amelyek elé érhetők a fő domainjükön a OpenAI címen. Hasonlóan az AI Security terén történt fejleményekhez és etikai AI gyakorlatokhoz, az AI Now Institute egy olyan kutatóközpont, amely a mesterséges intelligencia társadalmi hatásait vizsgálja, további információkért látogasson el a AI Now Institute címre.
A jövőbeli forgatókönyveknek óvatos egyensúlyt kell teremteniük az AI kihasználásában a biztonság fokozása érdekében, és annak megakadályozásában, hogy rosszindulatú entitások kihasználják. Az állandó párbeszéd a kiberbiztonsági közösségben, világos jogszabályok és nemzetközi együttműködés elengedhetetlen lesz ahhoz, hogy a bonyolult kérdésekben eligazodjunk.
The source of the article is from the blog elblog.pl