Скорошен доклад, изготвен от Националния институт за стандартизация и технологии (NIST), разкрива потенциални атаки, които могат да застрашат сигурността на системите за изкуствен интелект (ИИ), като предлага и стратегии за намаляване на тези рискове. С название „Атаки и противодействия на противоречивото машинно обучение: Таксономия и терминология“, докладът подчертава различни видове атаки, включително избягване, отравяне, нарушаване на поверителността и злоупотреба. NIST категоризира тези атаки въз основа на знанията на нападателя, целите, целите и възможностите му.
Според Алина Опреа, една от съавторите на доклада, много от тези атаки могат да бъдат изпълнени лесно, с минимални познания за системата на изкуствения интелект и ограничени нападателски възможности. Например отравящи атаки могат да се извършват, като се манипулират няколко десетки обучителни примери, които са малък процент от целия обучаващ набор.
За намаляване на рисковете, свързани с отравящи атаки, докладът предлага няколко подхода. Те включват почистване на данни, модифициране на алгоритъма за машинно обучение и въвеждане на устойчиви методи за обучение вместо традиционния протокол за обучение. Чрез прилагането на тези стратегии разработчиците и потребителите на системи за изкуствен интелект могат значително да подобрят сигурността и надеждността на своите приложения.
Публикуването на този доклад е част от непрекъснатите усилия на NIST за насърчаване на разработването на надежден ИИ. Важно е да се справим с потенциалните уязвимости на системите за изкуствен интелект, за да гарантираме тяхната ефективност и цялостност в различни области.
За да научите повече за последните постижения и предизвикателства в областта на изкуствения интелект, водещи фирми и федерални служители могат да се регистрират за 5-ия годишен връх на Изкуствения интелект, организиран от Potomac Officers Club и планиран за 21 март. Върхът ще предостави платформа за значими дискусии относно последните разработки и най-добрите практики за осигуряване на системите за изкуствен интелект.
The source of the article is from the blog tvbzorg.com