Nedavni izvještaj Nacionalnog instituta za standarde i tehnologiju (NIST) pruža uvid u potencijalne napade koji bi mogli ugroziti sigurnost sustava umjetne inteligencije (AI), dok istovremeno nudi strategije za ublažavanje tih rizika. Pod nazivom “Adversarialno strojno učenje: Taksonomija i terminologija napada i ublažavanja”, izvješće ističe različite vrste napada, uključujući izbjegavanje, otrovanje, kršenje privatnosti i zloupotrebu. NIST kategorizira ove napade na temelju znanja, ciljeva, svrhe i mogućnosti napadača.
Prema Alini Oprei, jednoj od koautorica izvješća, mnogi od ovih napada mogu se lako izvršiti s minimalnim poznavanjem AI sustava i ograničenim neprijateljskim sposobnostima. Na primjer, napadi otrovanjem mogu se provesti manipuliranjem nekoliko desetaka uzoraka za obuku, što čini malen postotak cijelog skupa podataka za obuku.
Za ublažavanje rizika povezanih s napadima otrovanjem, izvješće predlaže nekoliko pristupa. To uključuje dezinfekciju podataka, modificiranje algoritma obuke strojnog učenja i implementaciju snažnih metoda obuke umjesto tradicionalnih protokola obuke. Usvajanjem ovih strategija, razvijatelji i korisnici AI sustava mogu značajno poboljšati sigurnost i pouzdanost svojih aplikacija.
Objavljivanje ovog izvješća dio je kontinuiranih napora NIST-a za promicanje razvoja pouzdane umjetne inteligencije. Neophodno je rješavati potencijalne ranjivosti u AI sustavima kako bi se osigurala njihova učinkovitost i integritet u različitim područjima.
Da biste saznali više o najnovijim dostignućima i izazovima u području AI, industrijski lideri i savezni dužnosnici mogu se registrirati za 5. godišnji summit umjetne inteligencije Potomac Officers Club koji je zakazan za 21. ožujka. Summit će pružiti platformu za značajne rasprave o najnovijim razvojima i najboljim praksama u osiguranju AI sustava.
The source of the article is from the blog toumai.es