在1月份，模仿美国总统乔·拜登的声音自动电话呼吁新罕布什尔州的民主党支持者等待到11月的总统大选后再投票。这些RoboCalls采用了很像总统拜登的声音，导致一些党派支持者重新考虑了他们在1月的初选支持。
这种冒充并不是拜登总统本人的真实声明，而是通过人工智能生成的声音。这些电话中参与其中的某人后来表示，其目的是展示人工智能对选民行为的影响潜力。
选举中的技术操纵并不新鲜；社交媒体平台和篡改内容曾经在过去的总统竞选中影响了选民的意见。一个著名的例子包括一个篡改视频，将前众议院议长南希·佩洛西以不利且虚假的形象快速传播到网上。调查显示，美国近三分之二的互联网用户意识到社交媒体平台上流传的错误信息和虚假新闻的猖獗传播。
随着能够创造看似真实文本、图像、视频和音频的生成式人工智能工具变得更加易得，它们对未来选举中虚假信息传播构成了更高风险。以开发Photoshop而闻名的Adobe是提供诸如Firefly之类的生成式人工智能工具的公司之一。技术巨头如Anthropic、Google、Microsoft和OpenAI也提供各种人工智能驱动的聊天机器人和图像生成服务，强调了其创造性应用以及潜在的滥用可能性。
“错误信息2.0”
非营利公共政策研究机构布伦南司法中心的一份报告指出，生成式人工智能工具可以将虚假信息无缝地编织到信息生态系统中，潜在增强有组织的错误信息宣传活动的可信度。滥用人工智能可以帮助恶意主体创建更可信和个性化的内容，从而广泛影响人们的看法。
Adobe的一项调查显示，选民担心Deepfake（篡改媒体）可能再次被利用来影响选举决策。绝大多数美国受访者担心在线内容的轻易篡改，质疑选举的公平性，并且难以验证此类内容的真实性。像Meta、TikTok和YouTube这样的社交媒体平台已经开始为数字生成或编辑的内容实施标记，表明向透明化迈出了一步。
“潜在解决方案”
在新罕布什尔州出现冒充拜登的RoboCalls之后，美国联邦通信委员会（FCC）裁定人工智能生成的语音电话是非法的。像布鲁金斯学会这样的非营利智库建议，投资于媒体素养，以便选民能够辨别事实和错误信息。在政府层面，进一步与科技公司合作，并对人工智能进行监管关注被提议，以维护未来选举的诚信。
“保护免受错误信息和伪造信息”
用户也有责任识别人工智能生成的内容。检查信息来源的可靠性和社交媒体水印、Adobe的“内容凭证”等事实核查工具至关重要。尽管新墨西哥州和北卡罗来纳州为地方选举提供事实检查资源，但国家级资源仍然稀缺。非营利活动通过AIandYou发起的倡议正在蓬勃发展，重点关注最受错误信息影响的社区。
在生成式人工智能时代，利用所有可用资源对民主进程进行知情参与变得越来越关键。
“重要问题与答案”：
“1. 人工智能语音模仿对选民意识有什么含义？”
人工智能语音模仿可以导致误传信息，并通过传播来自可信来源的虚假消息使选民丧失选举权。这要求选民提高警惕，核实他们收到的信息。
“2. FCC如何回应虚假使用人工智能生成的RoboCalls？”
美国联邦通信委员会对欺骗性使用人工智能生成的RoboCalls等行为裁定其为非法。
“3. 有哪些提议用于打击人工智能生成的错误信息？”
潜在的解决方案包括投资媒体素养项目、对人工智能进行监管关注、政府与科技公司之间的合作，以及使用内容感知数字指纹等验证工具。
“主要挑战或争议”：
– 言论自由与监管生成式人工智能内容的平衡仍是一个棘手问题。
– 科技公司面临着在有效监管其平台的压力，同时又不侵犯用户权利。
– 确保公共教育项目覆盖广泛人群是一个重大挑战，考虑到数字鸿沟和媒体素养差异。
– 深度伪造制作者和检测工具之间持续的技术竞赛构成技术挑战。
“优点和缺点”
“优点”：
– 人工智能可以增强各个领域的创造力和创新。
– 在伦理上使用，人工智能语音模仿可以在娱乐或协助有言语障碍的个人方面有实际应用。
“缺点”：
– 人工智能生成的错误信息可能会破坏民主并侵蚀对媒体和政治家的信任。
– 深度伪造和人工智能模仿可能导致个人和政治上的破坏。
– 人工智能生成内容的复杂性使真假难以辨别，令选民困惑并传播错误信息。
“建议的相关链接”：
– 美国联邦通信委员会（FCC）
– 布伦南司法中心
– 布鲁金斯学会
– Adobe
– Meta
– TikTok
– YouTube
– Google
– Microsoft
– OpenAI
– Anthropic
在生成式人工智能时代，尽一切努力促进媒体素养和透明沟通，以维护民主进程的诚信。
The source of the article is from the blog combopop.com.br