抖音通过引入AI生成的内容标签为社交媒体设立了新的透明度标准。本周，抖音的首席运营官亚当·普雷瑟在ABC新闻广播中透露，该平台将通过内容凭证来增强用户意识，区分AI操纵的媒体。
内容凭证的应用体现了内容真实性倡议（CAI）和内容来源与真实性联盟（C2PA）的共同努力，其中包括西班牙国际通讯社、谷歌、英特尔、微软、OpenAI、Adobe和抖音本身。这项技术将元数据整合到图像中，无论是照片、视频还是插图，以跟踪其修改情况，使用户能够追溯其来源。
作为社交网络中的早期采用者，抖音旨在赋予其社区能力，以区分真实创作和虚构。ChatGPT的开发者OpenAI先前宣布其系统，如图片生成器DALL.E 3和视频生成器Sora，将采用此归因技术。同样，Meta在2月份透露了其打算在Facebook和Instagram上标记合成内容的意图。
在AI生成图片在网上迅速增加的背景下，这样的措施的紧迫性变得更为突出，预计从2022年到2023年中期会增加约150亿张AI生成的图片。随着抖音等平台采纳这些创新技术，用户可以期待在他们的社交媒体体验中获得更清晰的内容。
抖音实施AI内容识别技术来标记媒体，判定其是AI操纵还是人为创作的做法与更广泛的有关媒体完整性和打击虚假信息的讨论密切相关。以下是与该主题相关的一些额外事实、关键问题、挑战、争议、优势和劣势：
事实：
– “Deepfakes”和合成媒体的广泛使用促使许多平台寻找方法来标记通过AI生成或修改的内容。
– 内容凭证旨在提升数字媒体素养，使用户能够更明智地选择他们消费的内容。
– AI系统变得越来越复杂，使普通用户很难识别出经过修改的内容。
重要问题和答案：
– 问： 在社交媒体中识别内容的重要性是什么？
– 答： 这在防止虚假信息传播方面至关重要，帮助用户相信他们看到的内容，在数字时代，经过修改的媒体可能被用于欺骗性或有害的目的。
– 问： AI内容识别技术如何工作？
– 答： 这种技术通常分析数字媒体，检测人类难以察觉的操纵迹象，并通过元数据追踪内容的创建和修改过程。
主要挑战和争议：
– 在透明度、隐私和创作者权利之间取得平衡可能很困难；创作者可能不希望每次更改都被记录，隐私倡导者通常反对大量元数据的积累。
– 确保使用的AI技术能够可靠地区分真实和经过操纵的内容是一项挑战。
– 标记的误用存在可能，内容可能被不公正或错误地标记，从而引起审查问题。
优势：
– 促进透明度，有助于打击虚假信息传播。
– 帮助用户更明智地决定在网上信任什么。
– 为其他社交媒体平台树立内容问责制的先例。
劣势：
– 元数据可能被错误解释或篡改，导致对虚假信息的误解。
– 有可能过度依赖用于检测操纵内容的技术，可能使其成为用户批判性思维技能的支撑。
相关链接：
有关更广泛背景信息，请访问所涉及组织和技术公司的主要网络域：
– 内容真实性倡议
– 内容来源与真实性联盟
– Meta
– 谷歌
– 英特尔
– 微软
– OpenAI
– Adobe
– 抖音
请注意，这些URL链接指向主要域名，通常被认为是有权威且是关于此主题的有效信息来源。