水印技术被吹捧为解决互联网上AI虚假信息不断增加问题的解决方案。然而，专家和NBC新闻的一项评估发现，当前的水印技术远未见成效。虽然像Meta和Adobe这样的公司已经签署了水印标准，但结果却并不尽如人意。
水印技术的主要挑战之一在于其易受绕过的脆弱性。当代的水印技术通常依赖于两个组成部分：图像元数据中的隐形标记和覆盖在图像上的可见标签。然而，无论是隐形水印还是可见标签都很容易通过简单的方法（如截屏和裁剪）将其移除。
另一个问题是，主要社交媒体和科技公司并没有强制执行对AI生成或编辑内容标签的使用。这种缺乏严格规定限制了水印技术的影响。例如，Meta首席执行官马克·扎克伯格在Facebook上更新封面照片时使用了AI生成的图像，但除非用户点击照片，否则并不会出现表明其AI起源的标签。这展示了当前水印技术的不足之处。
为了解决这个问题，Meta在二月宣布计划通过水印技术识别AI生成的内容，并在Facebook、Instagram和Threads上标记此类内容。然而，即使Meta也承认水印技术并非绝对可靠，很容易被操纵。该公司计划在未来几个月引入更严格的标准，要求用户披露AI生成的内容，并对不遵守规定的行为进行处罚。
水印标签的可见性也带来了挑战。移除可见水印标签仅需几秒钟，破坏了其旨在提供的安全性。这引发了对水印技术在验证真实内容和准确识别AI生成媒体方面的可靠性的担忧。
此外，尽管Meta、Google、微软和Adobe等主要科技公司努力采用合作的水印标准，仍然存在成千上万个不符合这些标准的AI模型可供下载。这在有效应对AI虚假信息方面造成了重大差距。
水印技术的局限性尤为明显，当考虑到Deepfake的兴起时。Deepfake是通过人工智能生成的媒体，经常用于针对个人的操纵图像和视频，而这些并非他们同意发布的。水印技术单独无法解决Deepfake带来的复杂性和伦理挑战。
随着Deepfake在诈骗、政治虚假信息和侵犯隐私方面的持续使用，需要全面解决方案变得明显。水印技术虽然是朝着正确方向迈出的一步，但不能单独依赖于解决Deepfake问题。
总之，水印技术显示了在应对AI虚假信息方面的潜力，但在实践中存在不足。其容易受攻击的漏洞、易被移除以及缺乏全面执行的限制阻碍了其有效性。要真正解决AI生成媒体的挑战，需要采用多方面的方法，包括先进技术、严格法规和公众意识。
常见问题解答
The source of the article is from the blog klikeri.rs