金融机构越来越多地将人工智能（AI）嵌入其IT流程中，但如何安全部署新的AI工具并防范基于AI的威胁仍在讨论之中。Zscaler的首席安全官Deepen Desai强调了组织需要考虑与这些工具相关的众多风险，以充分利用其优势。
为了释放AI的完整变革潜力，业务被敦促实施安全的控制机制来保护数据，预防数据泄露，控制未经授权的AI传播，并确保AI生成的数据质量。尽管AI在促进公司防火墙之外的网络威胁方面扮演着新兴角色，但它也被认为是网络防御的有希望元素，在流动的威胁环境中提供更好的保护。
Zscaler发布的《2024年AI安全报告》提供了关于这些重要AI挑战和机遇的见解。该报告是通过分析从2023年4月到2024年1月期间通过Zscaler Zero Trust Exchange处理的超过180亿个交易得出的，揭示了在安全和采用AI方面的跨行业趋势。
在研究期间，企业中的AI和机器学习（ML）交易飙升了近600％，达到每月30亿多次交易，显示了尽管安全事件增加，AI的难以估量的潜力。此外，企业使用AI工具处理了569 TB的数据，强调了AI使用的上升轨迹。考虑到数据和安全问题，企业封锁了所有AI交易的18.5％，较上一个期间大幅增加。
制造业在AI和ML交易中处于领先地位，但金融和保险等行业显示出更加保守的态度，其中37％的交易被封锁，这归因于严格的监管环境和所处理数据的敏感性。
金融服务中AI的作用通过该行业迅速拥抱AI得以体现，代表着Zscaler云中AI / ML流量的相当比例。像美国银行这样的机构多年来从AI应用中受益，现在生成式AI预计将将客户服务推向新的个性化高度。
虽然AI在金融产品和服务中的整合引发了隐私、偏见和准确性方面的警示，37%的被阻止的AI / ML交易反映出了这种谨慎立场。解决这些问题需要审慎监督，以保持金融服务和保险行业的信任和完整性。
主要问题和答案：
– 金融机构使用AI存在哪些安全风险？
金融机构中的AI部署存在数据泄露、偏见决策以及由于AI算法错误而导致金融数据被误解的风险。网络犯罪分子滥用AI进行复杂攻击也是一个问题。
– 金融机构如何减轻AI的安全风险？
金融机构可以通过强大的数据加密、定期审计基于AI的决策是否存在偏见或错误、实施安全的控制机制，以及采用验证每笔交易的最小信任安全方法来减轻这些风险。
– 金融机构在采用AI时面临的主要挑战是什么？
主要挑战包括确保遵守严格的金融法规、保护敏感客户数据、克服AI算法中的偏见，以及将AI整合到现有IT系统中而不影响安全性或效率。
– 金融机构在使用AI方面是否存在争议？
争议通常围绕着数据隐私、与AI决策相关的伦理问题、可能导致工作流失的潜力，以及AI算法的公平性和透明度等问题。
金融机构中AI的优势：
– AI可以以前所未有的速度处理数据，实现实时诈骗检测和响应。
– 通过个性化互动和更快的响应时间，AI提升了客户服务。
– 由AI驱动的预测分析有助于做出明智的投资决策和识别市场趋势。
– 自动化常规任务可以为金融机构带来成本节约和效率提升。
金融机构中AI的缺点：
– 由于AI系统的复杂性，存在数据泄露和不当数据处理的重大风险。
– 过度依赖AI可能会导致人类专业知识的流失和潜在的失业风险。
– AI算法可能会从它们的训练数据中继承偏见，影响决策和金融指导。
关于该主题的相关链接可能包括权威的金融和网络安全新闻机构，或专注于金融部门中AI整合和网络安全策略影响的官方组织，如：
– 美国联邦储备系统
– 国际清算银行
– 联邦调查局
– Wired
– 首席投资官
请注意，点击这些链接将带您到各自组织和新闻机构的主要域以获取更多关于金融机构、AI整合和网络安全挑战的信息。
The source of the article is from the blog yanoticias.es