在政治领域，人工智能（AI）技术的日益普及引发了2024年美国总统选举临近时的广泛关注和担忧。
最近几起AI生成的虚假信息事件引发了公众辩论，人们担心这可能对即将到来的选举产生重大影响。值得关注的例子包括一段冒充副总统卡马拉·哈里斯的Deepfake视频，一个编辑过的拜登总统使用不当语言的片段，以及特朗普被逮捕的篡改图像。
专家警告称，AI技术可能被用来误导选民，影响他们的投票意向，甚至在即将到来的选举中劝阻他们投票，潜在地加剧了美国已经极端社会分裂。
针对这一新兴威胁，越来越多的声音呼吁科技巨头加强控制。尽管许多公司已经在社交媒体上减少内容管理，但在选举前夕，人们对建立更严格的AI治理机制的需求正在增加。
上周，特斯拉首席执行官埃隆·马斯克在其平台X上分享了一段Deepfake视频，其中一个冒充哈里斯的声音声称拜登患有痴呆症，并承认自己在治理国家方面无能。视频没有明确标记为讽刺，只有一个微笑的表情符号。马斯克后来澄清说这是一部讽刺作品。研究人员担心观众可能错误地将这视为哈里斯真实的自嘲和对拜登的批评。
使用AI生成的虚假信息构成了一个日益严重的问题，尤其是在传播旨在激起愤怒和加剧政治党派分裂的视觉和视频方面出现了一种特殊趋势。尽管令人担忧，但更为普遍的情况可能涉及制造特定设计用于引发愤怒和加剧党派分化的内容。
此外，利用AI生成的自动电话呼叫冒充政治人物以劝阻选民参与投票的情况也出现了。一项调查显示，超过一半的美国人认为AI生成的虚假信息将影响2024年选举结果，大约三分之一的人表示对选举结果的信任降低。
多家科技公司确认他们正在开发AI内容标记系统。此外，超过200个倡导组织敦促采取紧急措施来对抗AI虚假信息，包括建议禁止将Deepfake技术用于政治广告中。
监管机构警告称，当前的在线环境充斥着错误信息，这可能会使选民混淆。他们呼吁平台公司加快完善相关政策，以解决Deepfake等问题所带来的挑战。
围绕政治话语中AI生成虚假信息不断升级的关切
随着AI生成虚假消息的阴影笼罩在政治领域之上，新的复杂性和风险层出不穷。除了先前突出显示的AI滥用实例外，一个关键问题浮出水面：在政治话语领域中，我们如何将真实内容与AI生成的虚构区分开来？
在打击AI生成的虚假消息中，一个重要的关键挑战在于AI算法的迅速发展使得检测愈发困难。AI能力从每一次虚假信息传播中适应和学习，这增加了在对抗政治信息中的欺骗内容时的一道难关。
与AI在虚假信息传播中蔓延相关的最紧迫争议之一是围绕言论自由的监管所引发的道德困境。尽管有必要遏制错误信息和Deepfake的传播，但也有人担心可能侵犯言论自由并在没有不必要审查的情况下剥夺政治话语权。
在政治话语中使用AI的优势在于其促进信息传播和提高沟通效率的潜力。从分析大量数据到个性化信息传递，AI工具能够提供宝贵的洞察和参与策略。然而，AI滥用于虚假信息向来有可能破坏对民主机构的信任并在公民之间播下纷争的种子。
相反，AI生成的虚假信息的劣势是深远而广泛的。从破坏选举的诚信到加剧社会分化，这类内容背后的恶意意图有可能破坏民主的根基。此外，个体暴露于具有误导性政治叙事的情况的心理影响可能会导致两极化和公民话语的瓦解。
要深入探讨这个话题并探索潜在解决方案，读者可以参考像世界经济论坛和布鲁金斯学会这样的权威来源。这些组织提供了关于AI生成虚假信息带来威胁以及解决这一关键问题的紧迫需要进行协作的综合见解和分析。
The source of the article is from the blog procarsrl.com.ar