Nacionālā standartizācijas un tehnoloģiju institūta (NIST) nesenie ziņojumi sniedz aptuvenu priekšstatu par potenciālajām uzbrukumu metodēm, kas var apdraudēt mākslīgā intelekta (MI) sistēmu drošību, vienlaikus piedāvājot stratēģijas risku mazināšanai. Ziņojumā “Aizsargājošās mašīnmācīšanās: uzbrukumu un mazināšanas taxonomy un terminoloģija” ir izceltas dažādas uzbrukumu veidu kategorijas, ieskaitot novēršanu, piesārņošanu, privātuma pārkāpšanu un ļaunizmantošanu. NIST šos uzbrukumus klasificē atkarībā no uzbrucēja zināšanām, mērķiem, nolūkiem un spējām.
Pēc vienas no ziņojuma kopārakstniecēm Alinas Opreas daudzi no šiem uzbrukumiem var būt viegli īstenojami, izmantojot minimālas zināšanas par MI sistēmu un ierobežotas pretinieka iespējas. Piemēram, piesārņošanas uzbrukumus var īstenot, manipulējot ar dažiem desmitiem apmācības paraugu, kas veido nelielu daļu no visām apmācības datiem.
Lai mazinātu riskus, kas saistīti ar piesārņošanas uzbrukumiem, ziņojums iesaka vairākus pieejas veidus. Tie ietver datu attīrīšanu, mašīnmācīšanās apmācības algoritma modificēšanu un izturīgu apmācības metožu izmantošanu tradicionālo apmācības protokolu vietā. Ar šo stratēģiju īstenošanu, MI sistēmu attīstītāji un lietotāji var ievērojami uzlabot savu lietojumprogrammu drošību un uzticamību.
Šī ziņojuma publicēšana ir daļa no NIST pastāvīgajiem centieniem veicināt uzticamu MI attīstību. Ir būtiski novērst potenciālās ierobežojumu sagādātājas MI sistēmās, lai nodrošinātu to efektivitāti un integritāti dažādās nozarēs.
Lai uzzinātu vairāk par jaunākajiem sasniegumiem un izaicinājumiem MI jomā, nozares līderi un federālie darbinieki var reģistrēties Potomac Officers Club 5. gadskārtējam Mākslīgā Intelekta samitam, kas plānots 21. martā. Samitā tiks nodrošināta platforma nozīmīgām diskusijām par jaunākajiem sasniegumiem un labākajām praksēm MI sistēmu nodrošināšanā.
The source of the article is from the blog shakirabrasil.info