最近国家标准与技术研究所（NIST）的一份报告，为可能危及人工智能（AI）系统安全的攻击提供了见解，同时提供了应对这些风险的策略。该报告名为《对抗性机器学习：攻击和缓解的分类和术语》，强调了各种类型的攻击，包括逃避、污染、侵犯隐私和滥用。NIST根据攻击者的知识、目标、目的和能力对这些攻击进行分类。
据该报告的合著者之一Alina Oprea称，很多这些攻击都可以在对AI系统的知识要求较低和有限的对抗能力下轻松执行。例如，通过操纵几十个训练样本，就可以进行污染攻击，而这些样本只占整个训练集的一小部分。
为了减轻与污染攻击相关的风险，该报告提出了几种方法。包括对数据进行净化、修改机器学习训练算法，以及采用稳健的训练方法而不是传统的训练协议。通过采用这些策略，AI系统的开发者和用户可以显著增强其应用的安全性和可靠性。
发布这份报告是NIST致力于推进可信AI发展的持续努力的一部分。解决AI系统的潜在安全漏洞至关重要，以确保它们在各个领域的有效性和完整性。
为了了解更多关于人工智能领域的最新发展和挑战，行业领导者和联邦官员可以注册参加Potomac Officers Club第五届人工智能峰会，该峰会定于3月21日举行。这个峰会将提供一个平台，以就保护AI系统的最新发展和最佳实践进行有意义的讨论。
The source of the article is from the blog reporterosdelsur.com.mx