최근 보고서에 따르면 OpenAI가 새로운 AI 모델의 개발을 가속화하는 동안 안전 프로토콜과 보안 조치를 방치했다는 사실이 밝혀졌다. AI 시스템 구축에 대한 감독 부재에 대한 불안감을 표명한 미공개 직원들이 서명한 공개 서신으로 우려가 제기되었다. 이에 OpenAI는 안전 및 보안 위원회를 설립하여 이사회 의원과 선정된 관리자들로 구성되어 안전 프로토콜을 평가하고 강화하기로 결정했다.
안전 프로토콜 미챙김 이야기가 나오기는 했지만, 워싱턴 포스트에 익명으로 밝힌 세 명의 OpenAI 직원에 따르면 팀은 OpenAI 리더십이 정한 5월 GPT-4 Omni 출시 계획을 맞추기 위해 “AI 시스템이 재앙을 일으키지 않도록 하는” 새로운 테스트 프로토콜을 빨리 구현해야 한다는 압박을 받은 것으로 전해졌다.
또한, 안전 프로토콜은 AI 모델이 해로운 정보를 제공하지 않도록하고 화학, 생물, 방사성, 핵 무기(CBRN) 제작, 사이버 공격을 지원하지 않도록 하는 것을 목적으로 한다.
이 보고서는 GPT-4o 출시 전에 발생한 비슷한 사건을 강조했으며, 이는 OpenAI의 가장 진보된 AI 모델로 묘사되었다. 출시를 위한 계획이 안전을 확인하지 않은 채 수립되었는데, 보고서에서 인용된 OpenAI 직원의 말에 따르면 “우리는 이 과정에서 기본적으로 실패했다”라고 밝혔다.
OpenAI 직원들이 회사 내 안전 및 보안 프로토콜에 대한 명백한 무시를 지목하는 것은 처음이 아니다. 지난 달에 OpenAI와 Google DeepMind의 전직 및 현 직 직원들이 새로운 AI 시스템 개발 시 감독 부재에 대한 우려를 표명한 공개 서신을 서명했다.
그 공개 서신은 정부 개입, 규제 기구, 고용주에 의한 신고자 보호등 강조했으며, OpenAI의 세 공동 창업자 중 두 명인 제프리 힌튼과 요슈아 벵지오가 그 공개 서신을 지지했다.
OpenAI는 5월에 회사의 AI 운영을 평가하고 향상시키기 위해 설립된 새로운 안전 및 보안 위원회를 발표했다. OpenAI는 최근 책임감 있는 윤리적 AI 모델 구축을 위한 새로운 지침인 Model Spec을 공유했다.
최근 보고서는 OpenAI에서 안전 프로토콜에 대한 우려에 대한 자세한 내용을 밝히고 이 문제에 대한 중요한 질문과 도전에 대해 살펴보았다.
중요한 질문:
1. OpenAI가 AI 모델 개발 과정에서 어떤 특정 안전 프로토콜을 방치했는가?
2. 새로운 테스트 프로토콜을 빨리 구현하려는 압력이 안전 조치에 어떻게 영향을 미쳤는가?
3. 충분한 안전 및 보안 프로토콜이 없는 AI 시스템이 가지는 잠재적 위험은 무엇인가?
4. 직원들과 산업 전문가들이 OpenAI의 안전 우려에 어떻게 대응할 것을 제안했는가?
5. OpenAI가 안전 프로토콜보다 AI 모델 개발에 우선순위를 두는 접근법의 장단점은 무엇인가?
중요한 도전과 논란:
– OpenAI 직원들이 재앙을 초래할 수 있는 가능성에 대한 우려를 제기하면서 새로운 AI 모델 출시를 안전 프로토콜 확립보다 중시하도록 압박을 받던 상황.
– 안전 프로토콜의 무심 방치는 AI 시스템이 해로운 정보를 제공하거나 무기 제작 또는 사이버 공격을 지원하는 상황으로 이어질 수 있다.
– AI 시스템 구축에서의 감독 부재는 중요한 위험과 윤리적 고민을 유발할 수 있으며 즉각적인 주의와 개입이 필요하다.
– 정부 규제, 신고자 보호, 향상된 안전조치의 요구는 AI 기술의 미확인된 발전에 대한 우려가 반영되었다.
장단점:
– AI 모델을 가속화 발전시키는 것은 기술과 혁신에서 급진적인 진전을 이끈다.
– OpenAI의 안전 및 보안 위원회 설립은 안전 우려 해결과 프로토콜 개선을 위한 적극적인 접근을 보여준다.
– 책임감 있는 윤리적 AI 모델 구축을 위한 최신 가이드인 Model Spec은 안전과 윤리적 고려 사항을 중요시한다는 의지를 나타낸다.
단점:
– AI 개발 과정에서 안전 프로토콜을 방치하면 사회에 상당한 위험을 초래할 수 있어 의도하지 않은 결과와 해로운 결과로 이어질 수 있다.
– 야심 찬 출시 일정을 맞추기 위한 압력은 안전 조치를 손상시키고 철저한 위험 평가를 방해할 수 있다.
– AI 시스템 구축에서의 적절한 감독 부재와 책임 부재는 공공 신뢰를 훼손시키고 AI 분야에서 윤리적 우려를 높일 수 있다.
AI 개발에서 안전 프로토콜의 중요성과 OpenAI의 실천에 대한 계속되는 논의에 대한 자세한 정보는 OpenAI 공식 웹사이트에서 확인하세요.
The source of the article is from the blog myshopsguide.com