人工智能（AI）已经成为信息技术安全领域的一把双刃剑。甚至在2020年11月OpenAI向公众发布ChatGPT之前，AI已经是网络安全产品中的一个关键元素，通常通过“GenAI”（生成型AI）或“ML”（机器学习）等噱头来宣传。然而，网络犯罪分子并未闲着。他们越来越多地采用AI技术来完善他们的策略，创造出先进的网络攻击。
安全公司目睹了未经授权的AI使用激增， 包括开发不受ChatGPT等平台伦理约束的非法大型语言模型（LLMs），这些模型倾向于生成垃圾邮件等其他危险活动。据趋势微观（Trend Micro）称，网络团体曾试图开发自己的LLMs，但后来转向“越狱”现有模型以绕过安全措施。这一活动已经发展到一种程度，他们现在提供“越狱即服务”。
来自趋势微观（Trend Micro）的David Sancho意识到网络犯罪分子对AI的利用早在最新AI炒作之前就已存在。 他提到，在地下论坛中，网络犯罪分子之间的讨论紧密跟随一般市场趋势。此外，现有的聊天机器人经常通过所谓的“包装服务”重新调整为满足犯罪意图的形式。例如，那些被赋予欺诈GPT和黑暗GPT等恐怖名字的聊天机器人，潜在的用于欺诈活动或身份盗窃。
深度伪造技术构成了其中一项最大的威胁， 能够仅凭一个窃取的文件便愚弄身份验证系统。这样的威胁在Bitdefender的一份报告中有所体现，该报告调查了IT安全专业人员，发现几乎所有人都认为AI的发展是其组织面临的严重问题。然而，在识别深度伪造内容与真实内容之间存在明显的信心水平差异，这一点需要注意。
大多数公司尚未将AI整合到其网络安全策略中， 但Hornet Security的AI安全报告显示人们对AI危险性的认识日益增强。根据Hornet Security调查，约75%的受访者认为AI未来五年内将在网络安全中变得更为重要，其中三分之一期望其安全策略得到改善。
AI驱动的工具的使用正在在事件响应和恶意软件防御等领域蔓延， 这意味着未来数字景观将会更受保护。虽然人们不大愿意相信AI将会显著减少安全人员的手动劳动，但许多人同意AI可以帮助填补人员缺口并增强现有能力，特别是在对IT安全专业知识需求较高的行业。由AI指导的网络攻击，如操纵在线预订以牟利的机器人，说明了组织必须为此类复杂威胁做好准备。
AI在网络安全领域日益突显的重要性，对于理解全球数字威胁不断演变的背景至关重要。以下是关于“AI在网络安全中崛起的威胁”的额外事实、问题、答案、讨论，以及评估与之相关的优势和劣势的内容。
AI驱动的威胁检测： ML等AI技术可以比人类更有效地分析大数据集，从而识别出人类分析人员可能忽略的复杂网络威胁模式。
适应性网络攻击： 随着AI技术的发展，网络攻击的适应能力也在增强。比如，对手可能使用AI根据目标响应动态调整网络钓鱼邮件的内容，使其更具说服力，或比以往更快地发现并利用系统中的漏洞。
安全专业人员的工作量： 虽然AI可以自动化某些网络安全任务，但这项技术也可能给安全专业人员带来更多工作，因为需要人工审核生成的虚假警报。这种大量警报可能导致警报疲劳。
主要争议和挑战： AI在网络安全中存在争议的一个主题是防御和攻击性AI策略的伦理含义。随着AI有可能进行攻击性网络行动，有关伦理的讨论至关重要，以明确规定政府和私营部门在网络安全工作中对AI技术的负责使用。
优势：
– 自动化重复任务可改进网络安全实践的效率。
– AI可以通过快速分析大量数据来增强威胁检测能力。
– AI可以通过支持过度工作的安全人员来应对网络安全技能缺口。
劣势：
– 开发和部署有效的基于AI的安全解决方案需要大量资源和专业知识。
– AI网络防御系统可能会被复杂对手操纵或绕过。
– AI的民主化使恶意行为者能够利用AI进行有害活动。
最重要的问题：
1. 我们如何确保AI技术仍然掌握在负责任的方面？
2. 哪些伦理框架将指导AI在攻击性和防御性网络操作中的部署？
3. AI将如何影响网络安全专业人员的未来工作环境？
答案：
1. 通过强有力的国际协议、法规和道德准则，以及先进的网络安全措施来保护AI技术免受未经授权访问。
2. 政府、组织和网络安全社区必须合作制定指导网络安全操作中AI使用具有伦理依据的准则。
3. 尽管AI将自动化网络安全中的某些任务，但它很可能还将创造新的职位，专注于开发、维护和监督AI系统。
对于那些希望从广泛角度探索AI在网络安全中角色的人，以下资源可能会有所帮助：
OpenAI
Trend Micro
Bitdefender
Hornet Security
上述链接指向文章中提到的相应组织的主要域，确保用户可以从网络安全社区的权威和重要贡献者那里进一步探讨这一主题。