OpenAI，一家领先的人工智能研究公司，据CNBC报道，已经解散了致力于解决人工智能长期风险的团队，这是根据匿名消息来源的证实。这一消息传出仅仅一年时间，该组织最初建立了这支专门团队。
据悉，这支现已解散的团队的成员被重新分配到公司内不同的部门，显示了一场重大重组。此消息传出后不久，此前《连线》杂志的报道曝光并伴随着 OpenAI 的联合创始人 Ilya Sutskever 和团队领导 Jan Leike 离职而来。
Jan Leike 在离开公司前公开表达了对公司做法的担忧，暗示了对安全文化和规程的背景，暗示了对更加紧迫和引人注目产品的吸引。
最初，OpenAI 的现已解散的 Superalignment 团队的任务是确保公司的人工智能发展在知识能力增强的同时保持有益和可控。在宣布该团队时，OpenAI 承诺将公司计算资源的 20% 用于这个目标，这一承诺似乎已经有些减弱。
该组织尚未就此事发布官方声明。相反，OpenAI 指向了公司联合创始人兼首席执行官 Sam Altman 的最新推文，对 Jan Leike 的贡献表示感激，并承认还需在 AI 合作和安全研究方面做进一步努力。
另一位联合创始人 Greg Brockman 上社交媒体重申公司致力于增加人们对通用人工智能（AGI）的潜在益处和风险的认识，即使在继续根据最近事件调整他们的策略。Brockman 的声明是基于 Leike 对公司运营重点和他对更加侧重安全与社会影响的愿景之间的分歧。
主要问题和答案：
问：为什么 OpenAI 解散了其人工智能安全团队？
答：本文未明确指出解散的确切原因。但暗示 OpenAI 的战略转变和公司内部重组导致了团队的解散。团队成员的重新分配表明公司正在重新调整焦点，可能朝向更为紧要的目标或不同的人工智能安全方法。
问：谁离开了 OpenAI，他们有什么担忧？
答：联合创始人 Ilya Sutskever 和团队领导 Jan Leike 离开了 OpenAI。Jan Leike 对公司的安全文化和做法表示了担忧，表明安全可能被发展更吸引人的产品所取代。
问：Superalignment 团队的目的是什么？
答：Superalignment 团队的目的是确保 OpenAI 开发的人工智能技术始终可控且有益处，而不受其知识能力增强的影响。
问：OpenAI 对解散人工智能安全团队的问题做出了官方回应吗？
答：没有，OpenAI 尚未就此事发布官方声明。公司只通过社交媒体的贴文间接提及了这一问题。
主要挑战或争议：
– 安全与速度： 在人工智能领域存在的一个主要争议是在快速推进技术和确保其安全性之间取得平衡。OpenAI 解散安全团队可能表明其向更看重速度而非安全的危险方向转变。
– 透明度： OpenAI 一直主张在人工智能开发方面保持透明性，然而没有明确关于这一重大举措的官方声明引发了人们对其对开放性的承诺的担忧。
– 对人工智能伦理的影响： 鉴于 OpenAI 在人工智能社区的影响力，其战略转变可能对人工智能伦理和安全相关的研究和开发规范产生更广泛的影响。
优势和劣势：
优势：
– 资源再分配： 通过解散安全团队，OpenAI 可能会更有效地将其资源分配到其认为即刻重要的领域。
– 战略灵活性： 没有专门的安全团队，OpenAI 可能能够更快地根据竞争激烈的科技领域调整其战略。
劣势：
– 安全担忧： 解散可能会削弱人工智能安全的重要性，并可能导致开发缺乏充分保障的系统。
– 公众信任： 此类行动可能会削弱公众对人工智能技术的信任，特别是如果人们认为安全性并未受到严肃对待。
– 长期风险： 集中于短期目标并忽视长期人工智能风险可能会在技术超出我们控制机制的情况下产生严重后果。
建议相关链接：
– 查看 OpenAI 官方网站了解更多信息：OpenAI。
– 欲了解人工通用智能（AGI）和更广泛的人工智能领域的概况，请访问 Future of Life Institute：Future of Life Institute。
The source of the article is from the blog elblog.pl