使用人工智能（AI）来创建和传播有关政治候选人的内容是2024年全球选举活动中的一种前所未有的趋势。这种现象包括制作和分享公共信息，以及在投票之前、期间和之后潜在地操纵选举过程。
对由AI生成的虚假内容（如深度伪造）的担忧正在增加。 美国的Campaign Legal Center（CLC）已警示政治广告利用AI制作超逼真伪造的危险影响。这些伪造品可以让公众对候选人的声明、他们对议题的立场，甚至某些事件的发生产生误导，从而危及选民做出明智决定的权利。
AI的影响不仅仅限于塑造候选人在公众中的形象。 它也可用来通过传播旨在减少选民投票率的虚假信息来干扰选举过程。恶意行为者可能会制造和传播令人信服但虚假的消息，涉及投票地点和时间，或者甚至鼓励完全不投票。
例如，美国2024年新罕布什尔州初选之前，选民收到了模仿拜登总统的AI生成电话，虚假地敦促他们不参与选举，并误导性地暗示他们应该“保留”选票以备11月的大选。
一个理性的选民听到这样的信息可能会相信这确实是拜登总统录制的电话，并感到有义务遵从要求，从而有效地冒着丧失投票权的风险。这一事件说明了其他编造叙述的潜力，可能会减少市民参与度，降低选民的能力，或虚假地警告紧急情况，从而导致选举日的选民投票率降低。
AI技术为恶意行为者打开了破坏选举管理或毫无根据地对选举结果产生质疑的途径。 它可以轻松地用来制造虚假图片和证据，比如篡改或销毁选票，这不仅会侵蚀公众对选举结果的信任，还可能引发针对选举管理员的暴力行为。
最重要的问题：
– 我们如何检测和预防选举中由AI生成的虚假信息？
– 可以采取什么措施来保护选民获取准确信息的权利？
– 我们如何平衡AI在政治活动中的好处与虚假信息风险之间的关系？
对重要问题的回答：
检测由AI生成的虚假信息涉及开发能够分析内容是否操纵的复杂工具。此外，通过公共教育活动提高人们对深度伪造的认识并提升媒体素养是关键。社交媒体平台和新闻机构需要与技术专家合作，迅速识别并阻止虚假信息的传播。
为了保护选民，选举委员会、政府机构和社交平台必须对政治广告和AI的使用实施严格的监管。应设立透明法规，要求披露由AI生成的内容，并对传播恶意虚假信息的行为者采取措施。
平衡利益和风险需要细致的方法。虽然AI可以协助创建更具吸引力和有针对性的政治活动，但必须负责任地使用。立法以及有关政治活动中使用AI的道德准则可以帮助维护选举期间分享信息的诚信。
主要挑战或争议：
– AI技术的快速发展使得监管框架难以跟上。
– 在试图管理AI生成的内容时，可能存在限制言论自由的伦理关切。
– 社交媒体的国际性质使政治虚假信息的司法管辖权和强制执行变得复杂。
优缺点：
优点：
– AI可以帮助候选人更好地了解和接触选民，传递定制消息。
– 政治活动可以利用AI有效地分配资源和分析选民数据，以改进选举策略。
缺点：
– AI生成的虚假信息破坏了民主进程和公众做出明智决定的能力。
– 它可能会削弱选举的合法性并增加政治极化。
– 使用深度伪造和其他操纵手段可能导致对选举制度的信任减少。
相关链接：
要获取有关针对数字虚假信息的法规和举措的更新，请查看以下链接：
– 美国联邦选举委员会
– 欧洲联盟
这些链接是可能具有针对选举中AI生成虚假信息作斗争相关措施或信息的机构的主要域。