俄罗斯行动利用人工智能来塑造反对法国总统埃马纽埃尔·马克龙政府自由政策的叙事。对聊天机器人下指令，以制作保守立场的内容，不慎被留在了发布在gbgeopolitics.com上的文章中。这是一个以地缘政治为重点的网站，包括“美国新闻”和“加沙战争”等栏目。尽管看起来真实，但该网站是较大机器的一部分，旨在影响西方公众舆论。
由IT安全公司Recorded Future进行的调查发现，成立于2月或3月左右的gbgeopolitics.com，托管了大量AI生成的文章，推广特定的政治叙事。这些叙事经常批评美国民主党的政策，提升共和党和俄罗斯的立场，并对北约联盟和美国政客采取批判态度。
这次影响力活动涉及的网站网络包括至少十几家在线杂志，存在技术和内容共性。诸如“波士顿时报”和“英国纪事报”之类的出版物显示了它们针对的目标观众，包括美国、英国和法国。
2016年逃往俄罗斯的前美国警察约翰·马克·道根，在揭露了佛罗里达执法人员机密信息后，使用“BadVolf”化名，可能与这些努力有关。发现了道根、DC Weekly网站和Copycop网络中其他网站之间的指责关系，这些都表明该网络可能与俄罗斯政府或更大的虚假信息组织有关。
该活动内部称为“Doppelgänger”的宣传模仿了各种成熟的欧洲媒体平台以传播欺骗性内容。然而，Copycop网络看起来不够专业，并意外地暴露了其AI使用和政治动机，可能是由于监督不力，也可能是由于自动化过程。
关于像俄罗斯实体部署的那样使用AI聊天机器人进行影响力活动最重要的问题之一是：
社会和政府如何侦测和防范AI驱动的虚假信息活动？
答案：侦测和防范AI驱动的虚假信息活动需要技术解决方案、媒体素养计划和监管措施相结合。AI和机器学习可用于识别显示机器人活动或合成文本生成的模式和异常。社交媒体平台、网络安全公司和政府机构之间的合作至关重要，以共享情报并减轻威胁。此外，教育公众如何批判性评估信息来源对于建立社会抵御虚假信息的能力至关重要。
与AI聊天机器人影响公众舆论相关的主要挑战或争议包括：
1. 确定虚假信息活动的来源和归因，通常由于使用代理、VPN和其他匿名工具而变得复杂。
2. 在言论自由的需要和防止虚假或误导信息传播的必要性之间实现平衡，特别是在民主社会内。
3. 确保对抗措施不会侵犯个人隐私权或导致合法内容的审查。
4. 跟上AI生成内容日益提高和与人类生成内容之间的区分日益困难。
使用AI聊天机器人进行影响力活动的优势可能包括：
– 可扩展性：AI能够迅速、高效地生成大量内容。
– 匿名性：机器人可以在不直接连接到操作人员的情况下操作，使追踪虚假信息的来源变得困难。
– 成本效益：一旦开发出一个AI系统，与人类代理相比，它可以以较低的成本运作。
这种方法的缺点包括：
– 道德顾虑：使用AI传播虚假信息在道德上是有问题的，可能会破坏对整个AI技术的信任。
– 潜在的反击：如果被发现，此类行动可能引发外交事件，损害一个国家的国际声誉。
– 不准确性：AI生成的内容可能会不经意地包含错误或很容易被识别为合成的，降低其效果。
有关AI和网络安全的更多信息，请访问Recorded Future网站。
要获取有关全球地缘政治发展的更多见解，您可能会发现Foreign Affairs网站信息丰富。
The source of the article is from the blog agogs.sk