Lidia Perska最近的一份报道揭示了OpenAI一直在加速开发新的人工智能模型，而忽视了安全和安全协议。一些未透露姓名的员工发表了一封公开信表达了对AI系统建设监督不足的担忧。作为回应，OpenAI成立了一个新的安全和安全委员会，由董事会成员和精选经理人组成，以评估和加强安全协议。
尽管关于安全协议疏忽的指控，三名匿名向《华盛顿邮报》透露的OpenAI员工表示，团队感受到了加速实施新的测试协议的压力，该测试协议旨在“防止AI系统造成灾难性危害”，以满足OpenAI领导设定的五月份GPT-4 Omni的上线日期。
这些安全协议旨在确保AI模型不提供有害信息或帮助执行危险行为，比如制造化学、生物、放射性和核武器（CBRN）或协助进行网络攻击。
此外，报道还突出了在GPT-4o上线之前发生的类似事件，GPT-4o被描述为OpenAI最先进的AI模型。该模型的上线计划是在没有确保其安全性的情况下进行的，一名OpenAI员工在报道中被引用说：“我们在这个过程中从根本上失败了。”
这并不是OpenAI员工首次指出公司对于安全和安全协议的明显漠视。上个月，OpenAI和Google DeepMind的前雇员和现任员工共同发表了一封公开信，表达了对开发可能带来重大风险的新AI系统缺乏监督的担忧。
该公开信呼吁政府介入、推动监管机制的出台，并由雇主提供保护员工举报的强有力保障。OpenAI的三位创始人中的两位，Jeffrey Hinton和Yoshua Bengio，支持了这封公开信。
今年五月，OpenAI宣布成立一个新的安全和安全委员会，负责评估并加强公司的人工智能业务，并确保对OpenAI项目和业务的关键安全和安全决策。公司最近还发布了建立负责任和道德人工智能模型的新指南，称为Model Spec。
一份最近的报告披露了关于OpenAI安全协议关切的更多细节，揭示了围绕这一问题的关键问题和挑战。
关键问题：
1. 在开发人工智能模型过程中，OpenAI忽视了哪些具体的安全协议？
2. 为加速实施新测试协议感到的压力如何影响了安全措施？
3. 与缺乏充分安全和安全协议的人工智能系统相关的潜在风险是什么？
4. 员工和行业专家提出了如何解决OpenAI安全问题的建议？
5. OpenAI在优先考虑AI模型开发而不是安全协议方面的做法有何优势和劣势？
关键挑战与争议：
– OpenAI员工感受到压力，优先考虑新AI模型的推出，而不是确保健全的安全协议，引发了潜在灾难性危害的担忧。
– 在人工智能开发中忽视安全协议可能导致AI系统提供有害信息或参与危险行为，比如促进武器制造或网络攻击。
– 在人工智能系统建设中缺乏监督可能带来重大风险和道德困境，需要立即关注和干预。
– 对于AI技术无序发展的担忧日益增长，呼吁进行政府监管、保护举报人员和加强安全措施。
优势：
– 加速开发人工智能模型有望带来技术和创新方面的突破性进展。
– OpenAI成立安全和安全委员会的承诺表明了积极应对安全问题和改进协议的态度。
– 最新的负责任和道德人工智能模型构建指南Model Spec表明了优先考虑安全和道德考量的意愿。
劣势：
– 在人工智能开发中忽视安全协议对社会带来重大风险，可能导致意外后果和有害结果。
– 实现雄心勃勃的推出时间表的压力可能损害安全措施并妨碍彻底的风险评估。
– AI系统建设中缺乏充分监管和问责制可能损害公众信任，并在人工智能领域引发道德担忧。
有关人工智能开发中安全协议的重要性及OpenAI的做法所引发的持续讨论的更多信息，请访问OpenAI官方网站：OpenAI。
