人工智能在现代战争中的角色带来新的威胁
在战争不断演变的背景下，由人工智能（AI）驱动的自主武器系统对全球安全构成了一个迫在眉睫的问题。专攻人工智能的计算机科学退休教授Karl Hans Bläsius教授警告称，这些技术可能会引发超出人类控制的快速升级周期。
Bläsius教授概述了技术自主性的好处，比如自动驾驶汽车和在危险环境中使用机器人的潜力。然而，他强调了与设计用于破坏的自主运行武器相关的严重风险。他断言自动化杀戮行为是不可取的，并警告称自主功能的武器可能带来特别危险的进展，包括与核武器相关的进展。
Bläsius教授将金融世界的高频交易算法与这种情况进行了类比，这些算法已经导致了被称为“闪崩”的突然市场崩盘。他警告称，由人工智能驱动的武器可能同样会发生意想不到的交互作用，导致快速且不可控制的“闪战”。这些场景描绘了一个未来，在这个未来，自动化系统以超出人类反制能力的速度参与战争，制造了攻击和反击的恶性循环效应。
强调目前在军事目标确定中使用人工智能的情况，例如以色列使用人工智能识别哈马斯战士及其位置，Bläsius教授对这些情况缺乏人类验证表达了担忧，这最终可能导致机器决定谁生谁死，包括平民。
Bläsius教授最终呼吁需要人工智能来管理现代军事行动的巨大复杂性和时间压力。然而，鉴于这些发展的绕过人类判断和相关道德影响的潜力，他承认了这些发展的问题性质。
人工智能驱动自主武器的挑战和争议
人工智能驱动的自主武器引发了一系列复杂问题和挑战，在包括军事、政治、伦理和法律领域等各个部门引起了争议。以下是一些关键挑战和争议：
– 责任： 自主武器系统的一个主要问题是在发生意外破坏或错误死亡事件时应该由谁承担责任。没有清晰的指导原则，指定AI执行的行动责任会很有挑战性。
– 伦理考量： 在战争中使用人工智能引发了有关人类生命贬值的伦理问题。机器不会也无法珍视人类生命，让人担心它们在战争中的部署可能导致更大的冲突倾向和更多生命损失。
– 政治决策的侵蚀： 传统上，是否发动战争是一个由选举产生的政治决定。而利用人工智能系统作出对威胁的反应，有可能绕过政治过程，开启战争而不通过民主程序的恐惧正快速增长。
– 军事升级： 自主武器的部署可能导致军备竞赛，因为各国寻求不被其他国家的能力落后。这可能导致全球军事紧张局势的加剧和不稳定。
– 故障风险： 人工智能驱动的系统容易出现技术故障和故障。在软件漏洞或黑客攻击事件发生时，自主武器可能会参与不期望或不可预测的行为，这可能会升级为冲突。
优势和劣势
优势：
– 在应对威胁方面提高效率和速度
– 减少人类士兵在战斗情况下的风险
– 在一些情况下可能减少附带伤害的精确瞄准
– 在人类无法进入的环境中运作
劣势：
– 可能导致责任丧失和人类监视减少
– 关于人类生命的价值和在使用致命武力方面的决策制定的伦理问题
– 可能出现故障或被对手破坏的可能性
– 升级和军事冲突增加的风险（快闪战）
– 在将AI编程符合国际人道主义法律方面的困境
关键问题：
1. 谁应对由自主武器系统采取的行动负责？
2. 人工智能驱动的战争如何符合国际人道主义法？
3. 可以采取哪些机制确保对自主武器充分的人类监督？
4. 国际社会如何防止人工智能驱动的自主武器的扩散和升级？
随着对人工智能驱动自主武器的讨论继续，联合国已经成为一个平台，在这里这些挑战正在被辩论，并寻求全球就此类武器的监管和控制达成共识。
总的来说，尽管在军事行动中部署人工智能存在潜在优势，但劣势和风险强调了在国际层面需要谨慎考虑和监管的必要性。 “快闪战”的前景是一种令人沮丧的提醒，即在没有必要的检查和平衡措施的情况下匆忙应用人工智能于战争可能带来的潜在后果。
The source of the article is from the blog bitperfect.pe