OpenAI是对话AI程序ChatGPT的创造者，已经确定了一些位于俄罗斯、中国和其他地区的组织，据报利用AI来影响公众舆论。
这些组织偏好保持其身份保密，利用AI生成的文字和社交媒体账户创建，以及利用AI进行编程任务。在他们的行动中，他们着重研究了一些敏感的地缘政治议题，包括俄罗斯入侵乌克兰、加沙冲突以及美国政治。
其中，一家总部位于中国的组织尤为活跃，生成内容批评日本福岛第一核电站处理水释放的争议行为。该行动还延伸至日语在线帖子。然而，报道表明这些AI生成的信息在社交媒体平台上并没有引起重要的关注。
此外，OpenAI透露出了一些情况，说明尝试通过AI工具生成宣传图像的做法遭到软件的拒绝，突出了为防止滥用而采取的道德保障措施。OpenAI发布了一份详细报告，详细说明了在这些发现宣布的同一天潜在的威胁，强调了监测和规范AI使用的重要性，以防止此类操纵实践。
AI在操纵公众舆论中的重要性和相关性：
AI在操纵公众舆论中的使用是一个重要问题，因为它可以影响政治选举、改变公众对重要问题的看法，甚至在不同群体之间引发冲突。如用于制作深度伪造视频或撰写特别强势的文本等人工智能工具可以大规模传播虚假信息，速度远远超过人类的能力。
关键问题和答案：
– 组织如何利用AI操纵公众舆论？
组织利用AI生成具有说服力的文本，制作逼真的图像或视频（深度伪造视频），创建虚假的社交媒体档案，自动传播错误信息。
– OpenAI如何防止其工具被用于宣传？
OpenAI实施了道德保障和监督机制，可以检测并阻止软件生成用于宣传或错误信息的内容。
– 监管利用AI操纵行为所面临的挑战是什么？
AI工具和技术在国际范围内的普及使得强制执行法规变得具有挑战性。此外，AI的不断发展能力可能会超越建立有效管理框架的确立。
重要挑战和争议：
解决利用AI操纵公众舆论的关键挑战包括识别和归因于特定行为者的恶意活动，因为许多人隐藏自己的身份或从国外操作。此外，关于言论自由与抑制虚假信息的平衡以及科技公司和国家机构在管理内容方面的角色的辩论仍在进行中。
AI的优势：
– 使数据处理和分析更加高效，以了解公众舆论趋势。
– 为合法新闻或紧急通知提供快速信息传播。
AI的缺点：
– AI可能会被用于放大虚假报道和制造复杂的虚假信息宣传活动。
– 引发对媒体和民主机构信任的侵蚀担忧。
监管措施和道德考量：
AI的进步已经引发了关于其在政治领域中的道德使用和规范措施的讨论。各国组织和政府现在更加意识到这一点，并越来越致力于制定政策来应对AI带来的道德挑战。
如果您希望进一步了解AI的影响及其对整个社会的影响，您可以访问以下链接：
– OpenAI
– 联合国数字合作
– 世界卫生组织（有关健康相关的AI问题）