人工智能在现代战争中的角色带来新威胁
在不断演变的战争格局中，由人工智能（AI）驱动的自主武器系统对全球安全构成严重威胁。计算机科学退休教授卡尔·汉斯·布拉修斯教授，专业AI领域，对此类技术可能导致超出人类控制的快速升级循环表示警告。
布拉修斯教授概述了技术自主性的好处，例如自动驾驶汽车和在危险环境中应用的机器人的潜力。然而，他强调了设计用于破坏性的自主运行武器所带来的严重风险。他指出自动杀戮是不可取的，并警告特别危险的进展，包括与核武器有关的进展。
布拉修斯教授将金融界高频交易算法与人工智能驱动的武器进行比较，后者可能导致突发市场崩盘，即“闪崩”现象。他警告说，由AI驱动的武器可能会类似地进行意想不到的相互作用，导致快速且无法控制的“闪战”。这些场景描绘出未来自动化系统以超出人类能力对抗的速度进行战争，制造出加剧侵略和反侵略的螺旋效应。
在突出展示以色列用AI在军事目标确定中的应用，例如识别哈马斯战斗人员及其位置后，布拉修斯教授对这些情况中缺乏人类验证表达了担忧。这可能最终导致机器来决定谁生谁死，包括平民。
布拉修斯教授最后着重强调了需要AI管理现代军事行动的巨大复杂性和时间压力。然而，他承认这些进展的问题性质，因为它们有可能绕过人类判断和相关的伦理问题。
AI驱动自主武器的挑战与争议
AI驱动的自主武器引发了一系列复杂问题和争议，在各个领域包括军事、政治、伦理和法律领域都引起了争议。以下是一些关键挑战和争议：
问责： 自主武器系统面临的主要问题之一是在意外破坏或错误死亡事件发生时应该由谁负责。在没有明确指导方针的情况下，对AI采取的行动进行问责可能具有挑战性。
伦理考虑： 在战争中使用AI引发了有关对人类生命价值的伦理问题。机器没有能力也不可能评估人类生命的价值，这引发了关于其在战争中部署可能导致更大冲突倾向和更多生命损失的担忧。
政治决策权的侵蚀： 传统上，发动战争的决定是政治决策，由选举产生的代表或领导者作出。利用可能在毫秒内做出对威胁的反应的AI系统，人们担心政治过程可能被回避，战争可能在未经民主程序的情况下开始。
军事升级： 自主武器的部署可能导致军备竞赛，因为各国试图不被他人能力所胜过。这可能导致全球军事紧张局势和不稳定性的增加。
故障风险： AI驱动系统容易受到技术故障和故障的影响。在软件故障或入侵事件发生时，自主武器可能会发生意外或不可预测的行为，可能会升级成冲突。
优势和劣势
优势：
– 在应对威胁方面提高效率和速度
– 减少作战中人类士兵的风险
– 可以在某些情况下减少附带伤害的定位精度
– 在对人类来说危险的环境中操作
劣势：
– 可能丧失问责制度和降低人类监督权
– 在使用致命武力中对人类生命价值和决策方面的伦理问题
– 存在故障或被对手破坏的可能性
– 升级军事冲突和扩散的风险（闪战）
– 在将AI设计符合国际人道主义法中的困境
关键问题：
1. 自主武器系统采取的行动应该由谁负责？
2. AI驱动的战争如何符合国际人道主义法？
3. 可以采取什么机制以确保对自主武器有充分的人类监督？
4. 国际社会如何防止AI驱动的自主武器的扩散和升级？
随着围绕AI驱动的自主武器的讨论继续，联合国（United Nations）已成为一个平台，讨论这些挑战，并谋求全球就此类武器的监管和控制达成共识。
总体而言，虽然在军事行动中部署AI可能带来潜在优势，但劣势和风险突显了需要在国际层面进行谨慎考虑和监管。 “闪战”的前景令人深思，提醒着我们在未经必要的核查和平衡措施的情况下匆忙将AI应用于战争可能产生的后果。