人工智能（AI）技术的加速发展，诞生了可以在没有人为干预的情况下令人信服地操纵和制造内容的工具，利用复杂的算法。从定向内容精准地命中特定受众以提供定制信息，到完全虚构的图像、录音和视频，真实与虚假之间的渐进之间变得越来越模糊。
在AI的众多益处中，其欺骗能力构成了一种严峻的威胁。专门从事AI的Weinberger律师事务所及其合作伙人们揭示了旨在保护我们免受这种普遍技术可能带来的不法行为的开创性监管立法。该提议法律的目标是审查AI呈现的机会与挑战，特别是关于即将到来的选举。
AI能够设计意识，并显著影响公众舆论和信仰，这使得对其进行监管显得尤为重要。这些技术可以通过将视频、图像和音频合并到不可检测的地步，从而通过创建虚构的演讲、事件或图像来支持或破坏候选人。
斯洛伐克的进步党领袖米哈尔·希梅茨卡的案例，在一段虚假的AI生成录音出现且被指责他试图贿赂记者后失去了影响力，突显了这种危险。尽管随后揭示了该录音的不真实性，但伤害已经造成。
为了打击所谓的“深度伪造”和假新闻的蔓延，迫切需要监管来限制对我们选择自由和公众基于可靠信息做决策的威胁。
为此，Weinberger、Bartental和他们的合作伙人起草了一项里程碑式法案。该法案要求在选举活动宣传材料中明确披露AI的使用情况，包括所使用的方法。该法案禁止未经披露而使用AI来扭曲、编辑或制作竞选内容，对违规行为规定严厉处罚，包括巨额罚款和刑事诉讼。这项草案还明确规定：“未经声明，任何人不得发表包含人工智能创造或更改的内容的选举广告/帖子/视频，同时必须包含清晰可见的AI使用声明和标志。”该律师事务所的律师延诺·巴滕特坚称：“现在是部署保护我们选择权并阻止这种外来影响对我们思维、结论和公共选举的干预的工具的时候。随着AI越来越融入我们的生活，我们必须随着进步而发展，并根据新的现实调整我们的法律体系。”
相关事实
– 人工智能可以制作所谓的“深度伪造”，这些具有说服力的视听媒体可以歪曲现实，并有可能影响公众意见，尤其是在选举期间。
– 正在全球考虑监管措施，其范围和执行机制各有不同。例如，欧盟提议的人工智能法案包括针对不同风险级别的AI系统的规定，这可能包括与选举相关的AI技术。
– 美国已经出现了诸如国会提出的深度虚假责任法案等动向，旨在通过要求标记和为受害者提供救济来遏制深度伪造技术的有害影响。
– 诸如Facebook和Twitter等社交媒体平台都有他们自己的政策和AI检测工具，用于识别和标记或删除具有误导性的内容，包括深度伪造，尽管这些方法并非绝对可靠。
重要问题和答案
– 提议的AI监管努力的主要目标是什么？
主要目标是通过确保使用AI的选举宣传材料，特别是用于内容创作或修改的材料得到明确披露，来保护选举的诚信，从而使公众能够做出知情决策。
– 在选举背景下监管AI的挑战有哪些？
挑战包括区分合法使用和恶意意图、在国家和司法边界范围内执行规定、并跟上不断发展的人工智能技术。
– 这些监管努力可能引起哪些争议？
争议可能源于对言论自由、隐私、监管门槛的定义以及对在各种数字平台上共享内容的责任的确定的担忧。
优点和缺点
– 优点：
– 保护公众意见免受通过虚假信息进行的操纵。
– 提高选举活动的透明度。
– 鼓励内容创作者和发布者负责任地使用AI技术。
– 缺点：
– 可能限制AI的创造性和合法使用。
– 可能难以执行，尤其是跨越国际界限。
– 可能会遭到一些认为侵犯言论自由的人的抵制。
对于那些对与AI和监管相关的这些主题进一步了解感兴趣的人来说，权威消息的资源和透视信息包括：
– 欧盟数字单一市场-人工智能
– 美国科学与技术政策办公室-人工智能倡议
– 麻省理工科技评论
世界各地的法律制度和政策需要迅速有效地适应AI在维护民主过程和保护选举诚信方面所带来的挑战。