最近的研究揭示了选民对人工智能（AI）在选举广告制作中的使用存在重大关切。参与者中四分之三表达了希望看到对AI使用制作政治广告进行禁止的愿望，主要是因为担心虚假信息的传播和被篡改的深度伪造图像。Adobe在一个星期五呈现了这些调查结果，指出公众在区分虚假信息方面存在重大差距。调查显示，许多受访者已经削减了他们的社交媒体使用以防止落入欺骗陷阱。
这项名为“信任的未来”的研究调查了来自澳大利亚和新西兰的1005名成年人。其中80%相信应该禁止候选人使用AI制作宣传材料。此外，人们对深度伪造技术感到相当不安，有78%认识到它们对民主结构的威胁。
从调查中可以明显看出，81%的参与者重视知道内容是否由AI生成。这种关切如此普遍，以至于32%的人报告说要么放弃某些社交媒体平台，要么减少使用，因为存在遭遇虚假信息的风险。
Adobe亚太区政府关系总监Jennifer Mulveny解释了研究结果，明确表明公众呼吁增加指导、工具和限制，帮助他们识别在线信息的真实性。她强调了媒体素养消费者教育和采用保护技术（尤其是内容凭证）在澳大利亚联邦大选即将到来的背景下的关键作用。
人工智能生成的虚假信息仍然是一个全球性问题，已经有记录的案例表明在各大洲的政治活动中滥用，包括美国、亚洲的部分地区和欧洲。这些事例引发了国家数字素养运动的建议和对AI内容识别的监管要求，以减轻高质量虚假信息及其快速传播带来的风险。与此同时，澳大利亚将于2025年5月举行大选，昆士兰将于今年10月投票。
最重要问题和答案
问：公众对选举广告中使用人工智能的主要担忧是什么？
答：主要担忧是虚假信息的传播和使用深度伪造技术，后者可以制造逼真但虚假的图像或视频，潜在地通过欺骗选民破坏民主进程。
问：调查人群中有多少比例认为应该禁止使用AI生成的政治宣传材料？
答：根据研究，有80%的人认为候选人应被禁止使用AI生成选举广告。
问：一些人如何改变他们的社交媒体习惯以回应这些担忧？
答：在研究中，32%的参与者要么离开了某些平台，要么减少了使用，因为遭遇虚假信息的风险。
主要挑战或争议
在处理AI生成的虚假信息方面的主要挑战之一是确定内容的真实性。深度伪造的制作和传播正在提高，使个人难以区分真实与虚假。这不仅影响选举，还可能影响公众舆论并导致社会分裂。
这个问题的一个争议性方面是对监管与言论自由的平衡。对AI生成内容加强严格控制可能会对创意和言论自由产生影响，引发关于应该在何处划定界限的辩论。
另一个挑战是确保公众的数字素养，以便个人能够批判性地评估他们在社交媒体上遇到的内容。
选举广告中人工智能的优势和劣势
优势：
– 可扩展性：AI可以快速生成个性化内容，触及广泛受众。
– 定位：AI算法可以微观目标观众，向他们定制感兴趣的内容，潜在提高参与度。
– 成本效益：AI可以降低创作竞选材料所带来的成本。
劣势：
– 虚假信息：AI可以用于制作和迅速传播虚假信息。
– 深度伪造：AI生成的图像和视频可以操纵观众对现实的认知。
– 信任：在政治广告中使用AI可能会破坏公众对政治进程和媒体的信任。
与人工智能及其在选举中的影响领域相关的一个建议的链接到一个相关的受信任的主要领域是：
ACLU – 美国公民自由联盟网站，经常讨论数字隐私、言论自由以及技术对社会的影响，包括人工智能。请注意，考虑当前事件和议题的性质，ACLU网站关于人工智能的内容可能会有所变化。
值得注意的是，任何关于监管人工智能的公共辩论，特别是涉及选举程序的，都应考虑到不同的观点，确保全面综合地处理可能的政策和法律。
The source of the article is from the blog oinegro.com.br