在线欺诈的不断演变正目睹高科技手段的激增，如深度伪造和复杂网络钓鱼阴谋，尤其是利用 ChatGPT 的能力。最近，有报道称自今年初以来，英国公民因此类诈骗而损失超过 10 亿英镑。
一项由储蓄市场 Raisin 进行的研究显示近一半英国人日益担心此类问题。令人震惊的是，48% 的英国居民认为被骗的风险升高，因为恶意分子不断改进其技术能力，从而突破了金融机构设定的防护措施。
尽管欺诈活动的不断发展令人警觉，但 61% 的英国成年人相信他们可以区分来自人类和来自人工智能生成的通讯。然而，专家提供必要的识别人工智能诈骗尝试的关键提示，警惕至关重要。口型同步的明显缺陷、与正常不同的语音模式以及视频来源可疑等红旗被明确列出。
特别令人担忧的是对此类事件的报告率低，只有少数受害者向银行或其他平台通报。情感后果显而易见，有 28% 报告感到极度愤怒，27% 感到焦虑，23% 遭受信任问题，都是遭遇骗局后的结果。
Raisin UK 的共同创始人 Kevin Mountford 强调了在线诈骗的严重后果，强调了警惕性、安全的数字实践以及及时报告的重要性，以遏制这些网络威胁。尽管损失巨大，但对此类事件的反应需要更具前瞻性，以减轻未来的风险。
人工智能与网络安全和欺诈检测的整合
在线欺诈分子越来越多地利用人工智能（AI）的力量进行欺诈。这涉及使用复杂的软件进行各种目的，包括生成令人信服的社交工程攻击，制作深度伪造的图像和视频，或自动化网络钓鱼活动，向更广泛范围的目标发送个性化信息。此类技术的出现促使了网络安全措施的进步，也利用 AI 来检测和阻止欺诈活动。
在打击这些欺诈活动方面的主要挑战之一是让 AI 防御工具领先于欺诈分子的 AI 工具。网络安全专家必须不断更新算法，以便识别和减轻新威胁的出现。另一个挑战是确保合法的人工智能通讯，如客户服务聊天机器人，不被误认为是诈骗尝试，这需要微调检测系统。
争议通常围绕隐私问题展开，因为用于欺诈检测 AI 的数据如果处理不当，可能会侵犯个人隐私。还有就是在 AI 用于恶意用途方面的伦理辩论，以及科技行业应如何监管此类工具的开发和传播。
利用 AI 进行欺诈战术的优势包括欺骗者能够以更大规模生成非常令人信服和个性化的攻击，这可能导致更成功的诈骗。AI 能够分析大量数据，识别潜在目标，并制定更有可能引起回应的消息。
相反，劣势包括个人和组织由于成功的欺骗活动可能遭受的损害，以及受害者所承受的情感和财务负担。还存在更广泛的社会危害，即数字通讯信任度下降，这可能阻碍有益技术的采用。
要了解 AI 技术在欺诈战术中的发展和影响，人们可以访问以下链接：
– Raisin UK 提供财务建议和关于欺诈认知的研究。
– 国家网络安全中心（NCSC）提供网络安全最佳实践指南。
– 国际刑警组织（INTERPOL）协调打击网络犯罪。
– Deeptrace 提供深度伪造技术和检测的见解。
了解涉及欺诈战术的 AI 技术的发展和挑战对于消费者、企业和决策者都至关重要，以使他们在网络安全和欺诈预防领域保持领先。
The source of the article is from the blog mendozaextremo.com.ar