一项调查揭示了以色列军队在加沙持续七个月的冲突中整合了人工智能（AI），这是首个将AI应用于致命目的的军事力量的先例。来自以色列的调查记者揭发了“Lavender”行动—这是一个积累大量数据以识别潜在目标的系统。
AI会根据住址、行动、社交媒体存在、照片甚至个人关系等信息编制出待消灭的个人名单。+972杂志的总编辑Meron Rapoport描述这一流程实质上等同于制定一个等同于死刑的名单。
此曝光是以色列国防军精英网络情报部队的六名现役成员的个人经历为基础的。军方的标准允许对一般目标造成显著数量的平民伤亡，最多可以接受15-20人，而对于高优先级目标，潜在的伤亡人数可能增加到数百人。
虽然AI并不击发扳机，但命令士兵根据AI生成的目标进行行动的紧迫性引发了深刻的关切。这些策略引起了人权组织和联合国的审查和担忧，因为军事行动中大规模使用AI的意义挑战了战争法的法律和伦理标准。
了解军事中的人工智能
主要问题与回答：
– “Lavender 行动” 是什么?
“Lavender 行动” 指的是一项军事倡议，其中AI用于根据各种数据编制潜在消除名单，包括个人信息和关联。
– AI如何定位个人?
AI系统通过分析社交媒体、住址、行动、个人关系和照片等大量数据来源来识别潜在目标。
– 以这种方式使用AI的伦理问题是什么?
在军事行动中使用AI的道德后果引发了重大辩论，特别是关于增加附带伤害的可能性以及将生死决策委托给算法的道德问题方面。
主要挑战与争议：
– 道德和法律问题：在军事行动中使用AI进行定位引发了关于战争国际法律性和符合性的讨论。AI的决策过程缺乏为导航战争伦理考虑所需的复杂人类判断力。
– 责任问题：当AI系统参与致命性决策时，确定谁对错误或非法死亡负责变得更加复杂。
– 数据可靠性：AI的精确定位严重依赖于输入系统的数据的质量和完整性，这可能会受到操纵或错误的影响。
优点和缺点：
– 优点：
– 提高效率：AI可以比人类更快地处理和分析数据，可能导致更快地识别威胁。
– 加强监视：AI系统可以监视各种来源并筛选大量信息以识别模式或可疑行为。
– 减少军事人员风险：在冲突区域使用AI可以减少对地面部队的需求，从而可能降低军事人员伤亡。
– 缺点：
– 附带伤害：AI可能无法有效区分战斗人员和非战斗人员，存在高平民伤亡的风险。
– 道德困境：将生死决策交给算法引发了关于人类生命尊严和战斗规则的深刻道德问题。
– 安全风险：过度依赖AI可能导致漏洞，如黑客攻击或系统故障，可能会影响军事行动。
如果您对进一步探讨军事应用中的AI主题感兴趣，您可以访问以下相关链接：联合国裁军事务办公室
重要提示：作为AI助手，我无法实时访问当前数据库或互联网，请确保上述提供的任何URL在查询时有效和相关。