核威胁日益复杂，意外核战争风险逐渐显现。AI专家卡尔•汉斯•布雷修斯教授讨论了人工智能在军事战略中危险的整合。他指出了不可预测的金融市场崩盘与军事环境中潜在的无法控制的升级之间的相似之处。
AI在战争中的应用并非没有显著的缺陷。 AI技术在军事冲突中的整合引发了伦理关切，因为它们有能力在无需人类监督的情况下造成破坏。以色列军队利用AI进行目标识别的部署进一步突显了减少人类干预的危险。
军事决策的强烈复杂性和紧迫性使得使用AI成为必要。然而，不可靠和不完整的数据可能导致灾难性的错误。乌克兰目前的冲突中，AI被用于情势分析，突显了加剧的风险，特别是由于核威胁以及预警系统可能发生错误警报的危险。
布雷修斯对于误解或错误数据解读引发的意外核战担忧增加，乌克兰冲突的进行加剧了这一情况。他还回顾了1983年9月26日的一个关键历史事件，当时俄罗斯军官斯坦尼斯劳•彼得罗夫凭借明智的判断质疑了来自美国导弹的卫星预警，从而使一场潜在的核战争险些避免。
采访以布雷修斯对当前包括超高速导弹、太空武器化以及新型网络战能力等军事发展持批判态度结束。这些因素增加了核威慑系统的复杂性。他还提出了网络攻击、虚假信息和深度伪造的破坏性影响警告，这可能影响核情况的评估过程，进一步扭曲高风险情景中的现实。
尽管五角大楼表示AI的进步可能导致军事情境中更快速和更优越的决策，但布雷修斯强调这样的技术只能在概率和不确定性领域中运作，而非绝对的确定性，这是在战争领域能够依赖AI的一个警示性观点。
重要问题和答案
1. 为什么越来越多地认为军事战略中AI的使用是危险的？
AI在军事中的使用存在风险，因为它可能会使冲突不可预测升级，类似于金融市场崩盘，同时也可能由于不可靠的数据或误解而造成灾难性错误。军事情况的复杂性通常超过AI理解细微差别和背景的能力，增加了意外核冲突的危险。
2. 与AI在战争中相关的主要伦理关切是什么？
伦理关切源于AI有可能在没有足够人类监督的情况下执行破坏行动，做出可能导致平民伤亡或意外对抗的决策，以及自动化在致命武力部署中的更广泛影响。
3. 哪些曾发生的事件突显了单纯依赖科技进行核决策的风险？
斯坦尼斯劳•彼得罗夫的事件中，人类判断避免了基于错误卫星数据的核战的可能性，突显了在关键军事决策中过度依赖技术的风险。
4. AI如何可能影响核威慑系统的稳定性？
太空武器化、超高速导弹和新型网络战能力，再加上AI，可能导致军备发展竞赛并破坏旨在防止核冲突的平衡。AI对网络攻击和虚假信息的脆弱性可能引发错误警报或误判。
关键挑战与争议
– 数据可靠性： 确保AI系统使用可靠和准确的数据进行决策是一个主要挑战，在混乱的战争环境中尤为突出。
– 伦理决策： AI无法复制人类的伦理考量，在生死决策中是一个基本要求，例如使用核武器。
– 人类控制： 在复杂军事情况中保持足够的人类控制来进行细微判断仍然是一个有争议的问题。
– AI军备竞赛： AI军事技术的军备竞赛可能升级紧张局势并缩短人类决策的时间框架。
– 不稳定化： 军事应用中的AI可能通过使威胁评估和反应时间更加不确定来破坏核威慑。
优势与劣势
优势：
– 加强分析： 使用AI可以改善大量数据的情势分析和应对处理。
– 速度： AI可以以超出人类能力的速度运行，在时间紧迫的情况下可能有所裨益。
劣势：
– 缺乏背景： AI无法理解人文背景，可能会导致不正确或在伦理上有问题的结论。
– 升级的可能性： AI可能基于概率做出不可逆的决定，导致意外核战。
The source of the article is from the blog portaldoriograndense.com