Lidia Perska为了规范蓬勃发展的人工智能领域，中国当局已发布一项草案，要求清楚标识AI生成的内容。 据主要新闻媒体报道，该举措要求所有使用AI生成的媒体形式，包括文本、视频、音频和虚拟图像，必须明确标示为AI生成。
在线内容提供商必须显著显示此信息，可以使用文本或图像，并被鼓励采用更复杂的方法，如数字水印或元数据标签。 草案明确禁止任何实体或个人删除或更改这些标识，强调严格的执法措施，以保护潜在的权利和利益。
根据互联网监管机构的说法，该法规适用于涉及创建和分发AI生成内容的广泛组织，包括公司、研究机构和文化组织。 其目的是保护国家安全和公众利益，同时确保个人和团体的合法权益得到维护。
这项新规定建立在以往管理合成内容和深度伪造技术的框架之上，突显出对其在网络诈骗和诽谤中潜在使用的担忧。 鉴于AI的快速发展和虚假信息的泛滥，包括欧盟和美国在内的许多国家也在考虑类似的监管措施。在法规最终确定之前，将进行公众咨询，以确保媒体中AI技术的负责任使用。
中国进一步采取措施以规范AI生成内容：新草案法规发布
在继续努力应对人工智能（AI）在创意领域带来的复杂性和挑战时，中国政府推出了新的草案法规，对AI生成内容的使用提出严格要求。该举措扩大了现有法规的范围，旨在应对对虚假信息、版权侵犯及AI对社会规范影响的日益关注。
有关法规的关键问题
1. AI生成内容需要什么具体的识别措施？
– 草案要求AI生成的内容必须明确标识，实施选项包括文本标识符、数字水印或描述该内容为AI生成的元数据标签。这一要求有助于区分人类创造与机器生成的输出。
2. 不合规会有什么后果？
– 未能遵守标识要求的实体可能面临处罚，包括罚款、临时停业或未来传播内容的能力受到限制。
3. 法规将如何影响本地公司与国际公司的差异？
– 尽管法规主要针对国内组织，但在中国境内制作或分发内容的国际企业也必须遵守，这对在其他地方可能有不同AI内容标准的全球公司提出了挑战。
挑战与争议
随着这些草案法规的展开，出现了几个关键的挑战与争议：
– 过度干预与审查： 批评者认为严格的法规可能导致当局的过度干预，可能抑制创造力和创新。人们担心这些规则可能被用来控制异议声音或限制言论自由。
– 技术可行性： 在各种平台上，尤其是社交媒体和流媒体服务上实施水印技术可能面临重大技术挑战。公司必须找到方法在不干扰用户体验的情况下集成这些系统。
– 经济影响： 新法规可能会对内容创作者和分发商施加额外成本，可能导致中国快速增长的AI行业放缓。人们担心这些成本如何转嫁给消费者或抑制竞争。
优点与缺点
优点：
– 增加数字信息生态系统的透明度和信任，帮助用户分辨可信来源与AI生成的虚假信息。
– 通过建立人类和机器贡献之间更明确的界限，保护内容创作者的权利，这可能增强知识产权的执行。
– 与全球范围内对AI监管的趋势保持一致，可能使中国在负责任的AI部署标准方面处于领先地位。
缺点：
– 可能会妨碍AI在创意产业中的创新使用，因其施加的监管负担可能阻碍实验和新的发展。
– 可能导致市场分裂，只有那些拥有足够资源的公司能够遵循法规，从而边缘化较小的创作者。
– 有可能导致不信任的环境，使所有AI生成的内容都受到怀疑，无论其潜在价值或教育用途如何。
随着中国在规范AI生成内容的复杂性方面做出努力，全球观察者将密切关注结果，特别是其他国家考虑类似的监管框架。国际AI治理的格局依然流动，各国的目标都是在创新与安全之间寻找平衡。
有关技术和内容创作相关监管措施的更多信息，请访问 Tech Policy。
