随着人工智能（AI）在军事行动中的整合日益增加， 人们对其使用安全性和道德影响越来越关注。AI领域备受尊敬的人物Geoff Hinton教授对AI可能对人类造成潜在危害表示极大焦虑，特别是在军事应用方面。在过去的一年里，各国政府表现出不愿遏制AI技术军事化的态度。
科技行业的竞争性质也可能导致对安全措施缺乏重视，暗示对确保军事上下文中AI应用安全性未付出足够努力的风险。
围绕制定类似日内瓦公约的规范进行紧迫的讨论，这些规范为战争中的人道主义法律提供指导，以调整用于军事目的的AI的治理。AI系统独立做出致命决策可能存在重大的道德和安全问题。
当反思全球AI军备竞赛时，Hinton教授提到了俄罗斯总统普京此前的一项声明，暗示各国对AI主导地位的认真程度，表明某些国家正在积极追求该领域的发展。他指出，尽管西方可能在研究上领先于中国和俄罗斯等对手，但中国等国家特别是中国正在投入资源方面出现明显的加速度，预示着军事AI发展上的新兴竞赛。
此外，Hinton估计在未来五到二十年内，我们可能会遇到AI试图主导控制的可能性达到50%，这种情况对人类生存有着严重的影响。这一潜在可能性突显了迫切需要解决的问题，即开发可能超越人类能力的AI智能。
为军事AI使用建立道德标准的迫切需要根源于几个关键问题和挑战。 文章中没有明确提及，但同样重要的是AI技术的双重用途性质，这意味着设计用于民用目的的AI系统可以调整为军事用途，使道德园地复杂化。此外，还存在AI领导作战行动中的问责问题；当AI做出错误决定导致人员伤亡或财产损失时，不清楚应该追究责任的对象是操作人员、开发者、军方指挥还是AI本身。
围绕军事AI伦理的关键问题包括：
– 如何确保AI尊重国际人道主义法律？
– 应该建立什么样的问责机制来处理与AI相关的事件？
– 如何防止AI军备竞赛失控？
– 谁有权和能力来规范和执行军事AI使用中的道德准则？
挑战和争议 主要包括为战争中AI的适当和不当使用界定范围，确保AI系统在战场上不出现故障或被黑客攻击，并应对将人类从致命行动的决策过程中移除的道德影响等问题。
军事AI的优势：
– 提高作战效率和决策速度。
– AI可以通过执行危险任务来保护人类士兵的安全。
– 增强对情报和侦察的大量数据的处理能力。
劣势：
– AI系统可能做出不道德的决定或犯错导致意外伤亡。
– 各国竞相发展卓越的AI武器系统存在升级风险。
– 难以将AI行为的责任归因给任何方面。
一个相关的链接提供了关于该主题的额外信息，这是联合国的网站，在那里可能会找到有关国际AI监管的讨论：United Nations。另一个相关组织是国际红十字会（ICRC），该组织专注于发展中的战争技术和人道主义法律：International Committee of the Red Cross。这两个网址是主域链接，避免直接指向特定子页面。
The source of the article is from the blog smartphonemagazine.nl