OpenAI，ChatGPT 等会话 AI 程序的创造者已经确认，一些设在俄罗斯、中国和其他地区的组织正在据报利用 AI 来影响公众舆论。
这些组织倾向于保持其身份的保密，采用了通过 AI 生成文本、社交媒体帐户创建以及利用 AI 进行编程任务。在他们的运营中，他们关注了包括俄罗斯入侵乌克兰、加沙冲突和美国政治等敏感的地缘政治问题。
其中，一家总部设在中国的组织尤其活跃，制造内容批评了日本福岛第一核电站排放处理后水的争议。该行动还扩展到了日语在线帖子。然而，报告显示这些透过 AI 制作的信息在社交媒体平台上并未吸引到重要的观众。
此外，OpenAI 揭示出存在尝试通过 AI 工具生成宣传图片被软件拒绝的情况，突显出了为防止滥用而设立的道德保障措施。与发现同时，OpenAI 发布了一份详细报告，强调监控和规范 AI 使用的重要性，以防止此类操纵性实践。
AI 在操纵公众舆论中的重要性和相关性：
AI 在操纵公众舆论方面的应用是一个重要关注点，因为它可以影响政治选举、转变公众对重要问题的看法，甚至在不同群体之间引发冲突。为创造深度伪造或写作有说服力的文本而开发的人工智能工具可以传播虚假信息，速度远远超过人类的能力。
主要问题和答案：
– 组织如何利用 AI 来操纵公众舆论？
组织利用 AI 生成具有说服力的文本，制造逼真的图像或视频（深度伪造），创建虚假的社交媒体档案，并自动传播错误信息。
– OpenAI 如何防止其工具被用于宣传活动？
OpenAI 实施了道德保障和监督机制，可以检测并防止软件生成用于宣传或错误信息的内容。
– 与规范利用 AI 进行操控活动相关的挑战有哪些？
AI 工具和技术在跨国界传播，这使得规管变得具有挑战。此外，AI 的发展能力可能会超越建立有效治理框架的速度。
主要挑战和争议：
解决利用 AI 进行操纵公众舆论问题的主要挑战包括识别和归因恶意活动到特定行为者，因为很多人隐藏他们的身份或在国外操作。此外，关于言论自由与限制虚假信息的平衡、科技公司与国家当局在规范内容方面的作用等问题也在持续辩论中。
AI 的优势：
– 提供高效的数据处理和分析，以了解公众舆论趋势。
– 促进了合法新闻或紧急警报的迅速传播。
AI 的劣势：
– AI 可以用来放大虚假叙述，制造复杂的虚假宣传活动。
– 引发对媒体信任和民主机构侵蚀的担忧。
监管措施和道德考量：
AI 的进步引发了关于道德使用和规范措施的讨论，旨在防止其在政治领域被滥用。世界各地的组织和政府现在更加意识到这一点，并且越来越致力于制定政策，以解决 AI 所带来的道德挑战。
如果您希望进一步了解 AI 的影响和整体社会影响，请查看以下链接：
– OpenAI
– 联合国数字合作
– 世界卫生组织（关于健康相关的 AI 问题）
The source of the article is from the blog foodnext.nl