在一项具有里程碑意义的举措中，包括微软、亚马逊和OpenAI在内的头部技术公司共同同意遵守一套自愿承诺，旨在确保复杂人工智能（AI）模型的安全发展。这一协议是在首尔举行的人工智能安全峰会上达成的。
国际人工智能安全协议的主要要点：
作为协议的一部分，来自美国、中国、加拿大、英国、法国、韩国和阿拉伯联合酋长国等全球各国的科技公司承诺为它们的AI模型实施安全框架。这些框架将概述系统挑战的衡量标准，并包括“红线”，明确规定了不可接受的风险边界，包括但不限于自动化网络攻击的防御和生物武器威胁的预防。
为了应对这些先进AI系统可能带来的极端情况，这些公司宣布了它们有可能引入“紧急开关”的计划。这一紧急措施将在公司无法确保减轻规定风险时停止AI模型的开发。
国际团结及对安全AI开发的承诺：
英国首相在一份强调协议重要性的声明中强调了全球团结以及一些世界主要AI企业承诺透明度和问责制的承诺。他指出了关于AI安全承诺的史无前例的共识。
未来步骤及法律框架：
这些承诺特定于被称为“前沿模型”的尖端模型，其中包括OpenAI的GPT系列这样的生成AI，为ChatGPT聊天机器人等流行AI工具提供动力。虽然欧盟已努力引入AI法案来规范未受限制的AI开发，但英国政府选择了更具容忍性的监管方式，表明会考虑对前沿模型未来立法但没有设定时间表。
这项周二的协议代表了关于生成式AI软件开发的一组先前承诺的扩展。此外，它们承诺在2025年初计划在法国举行的下一次AI行动峰会之前将来自“受信任行为者”的反馈纳入他们的安全措施中。
重要问题及回答：
Q1：什么是道德的AI开发实践？
A1：道德AI开发实践是指旨在创造公平、透明、负责任并尊重用户隐私和人权的AI系统的一套原则和准则。道德考量通常包括确保算法的非偏见性、负责任处理个人数据、AI系统的安全性和可靠性以及清晰界定AI决策过程等。
Q2：科技巨头对道德AI的承诺为何重要？
A2：科技巨头对道德准则的承诺至关重要，因为它们有实力、影响力和技术专长，这显著塑造了全球AI开发。它们遵守道德准则有助于防止AI技术的滥用，解决AI部署涉及的潜在风险，从而促进公众对AI应用的信任。
Q3：道德AI开发面临哪些挑战？
A3：挑战包括确保数据的公正收集和处理、随着AI变得更加先进，开发透明模型的复杂性、AI可能被不道德地用于恶意目的、在全球范围内定义和执行道德标准的困难，以及在创新与监管之间取得平衡。