生成式人工智能的发展为创造性表达带来了令人兴奋的机遇。每天，成千上万的人利用这些工具将他们的想法变为现实。然而，与任何新技术一样，存在滥用和虐待的潜力。技术的历史告诉我们，出于善意创造的工具也可能被武器化，不幸的是，AI也出现了同样的情况。
一个令人担忧的趋势是深度伪造技术的快速扩张，利用AI生成的内容创建逼真但虚假的音频、视频和图像。恶意行为者利用这些深度伪造技术进行各种恶意行为，如在选举期间传播虚假信息、实施金融欺诈、进行非自愿色情活动和进行网络欺凌。我们急需采取行动来应对这些新兴威胁。
为了解决这个关键问题，微软和其他行业参与者正在采取全面的方法，围绕以下六个重点领域展开工作：
1. 强大的安全架构：微软强调从AI平台到应用层的安全驱动方法。这包括持续的红队分析、主动分类器、自动化测试以及对滥用用户的迅速采取行动。随着技术的发展，需要不断创新来加强安全架构。
2. 持久的媒体溯源和水印技术：为了对抗深度伪造技术，微软投资于媒体溯源能力。这些加密方法标记和签名AI生成的内容，使用户能够确定其来源和历史。通过与“Project Origin”和“Coalition for Content Provenance and Authenticity（C2PA）”等组织合作，进一步推动认证标准的制定。
3. 保护服务免受滥用内容和行为的侵害：在坚持言论自由的同时，微软致力于清除其平台上托管的欺诈和滥用内容，包括社交网络和游戏服务等。
4. 强大的合作：微软认识到集体努力的有效性，并强调与技术部门、公民社会和政府实体之间的合作。借鉴过去打击暴力极端主义和保护儿童的经验，该公司致力于通过相互合作创造一个更安全的数字生态系统。
5. 现代化立法：应对新的威胁需要相关立法的制定和执法部门的积极措施。微软倡导为全球保护个人在线安全，并坚持维护言论自由和个人隐私等基本价值观，支持各国政府的倡议和贡献想法。
6. 公众意识和教育：一个知情的公众对抗AI生成内容带来的挑战至关重要。公众教育和与公民社会的紧密合作在帮助个人区分合法和虚假内容方面起着关键作用。水印技术可以帮助实现这一过程。
在数字时代保护社会并非易事，但却是一项必要且重要的任务。通过共同致力于创新、合作和负责任的实践，我们可以确保技术在保护公众方面取得进展。让我们共同踏上这个旅程，使在线安全成为未来的共同目标。
常见问题解答：
1. 什么是深度伪造技术？
深度伪造技术是指利用人工智能生成的音频、视频和图像，用于伪造和模仿真实的人物或事件。
2. 深度伪造技术如何被滥用？
恶意行为者利用深度伪造技术进行恶意活动，如在选举期间传播虚假信息、实施金融欺诈、进行非自愿色情活动和进行网络欺凌。
3. 微软如何应对深度伪造技术问题？
微软采取了全面的方法，重点关注以下六个领域：
– 强大的安全架构：从AI平台到应用层实施安全措施。
– 持久的媒体溯源和水印技术：开发标记和签名AI生成内容用于认证的方法。
– 保护服务免受滥用内容和行为的侵害：清除微软平台上的欺诈和滥用内容。
– 强大的合作：与技术部门、公民社会和政府实体合作，创造一个更安全的数字生态系统。
– 现代化立法：倡导制定相关立法和执法部门的积极措施以应对新的威胁。
– 公众意识和教育：教育公众，与公民社会合作，帮助个人区分合法和虚假内容。
4. 如何在数字时代保护社会？
在数字时代保护社会需要创新、合作和负责任的实践。通过共同致力于这些原则，技术可以进一步发展以保护公众。
定义：
– AI：人工智能，指机器或计算机系统表现出的类似人类认知功能的智能。
– 深度伪造技术：使用人工智能生成的音频、视频和图像，伪造和模仿真实人物或事件的技术。
– 虚假信息：故意传播的错误或误导性信息，旨在欺骗或操纵人们。
– 非自愿色情：也称为复仇色情，指未经被拍摄者同意传播性行为的图片或视频。
– 网络欺凌：使用电子通讯手段对个人进行骚扰、恐吓或伤害的行为，通常发生在社交媒体或在线平台上。
– 溯源：事物的起源或来源。
– 水印技术：一种用于标记或识别内容的数字技术，通常用于认证或版权目的。
相关链接：
– 微软（微软官方网站）
– Project Origin（致力于解决深度伪造技术和内容真实性的合作倡议）
– Coalition for Content Provenance and Authenticity（C2PA）（致力于制定内容认证标准的合作努力）
视频链接：
The source of the article is from the blog crasel.tk