주요 기술 기업들과 정부들이 AI 안전 방어 장치 설정을 위해 연합. Microsoft, OpenAI, Anthropic 등 기술 산업 거물들과 추가적으로 열세 개의 기업 등이 선도적인 정책 프레임워크에 합의했습니다. 새로운 AI 모델 개발 중에 급속한 상황이 발생할 경우, ‘터미네이터’와 유사한 잠재적으로 재앙적인 시나리오를 방지하기 위해 진행을 중단하기로 합의했습니다.
AI 위험 완화를 위한 공동 노력. 이 합의는 서울에서 단체 및 정부 대표자들이 AI 개발에 관한 방향을 결정하기 위해 회의를 갖고 이루어졌습니다. 이 합의는 가장 신촌한 AI 모델들의 발전이 미리 정의된 위험 임계값을 넘어설 경우 진행 중단에 관한 “킬 스위치”에 중점을 두고 있습니다.
구체적인 조치와 명확성 부족이 계속되고 있습니다. 이 합의에도 불구하고 구체적인 조치나 “위험한” 임계값의 정의가 누락되어 있어 제도의 강제성과 효과성에 의문이 생깁니다.
야후 뉴스에서 수집한 보고서에 따르면, 극단적인 사례는 통제 수단이 불충분할 경우 조직이 새로운 AI 모델을 공개하지 않게됩니다. 아마존, 구글, 삼성과 같은 주요 참가자들도 해당 계획을 지지하며 광범위한 산업의 합의를 시사합니다.
언박스홀릭스에서 보고된 전문가들과의 토론은 중대한 위험을 강조하며 이러한 통일된 결정을 촉발시켰습니다. 이러한 움직임은 유명한 학자 Geoffrey Hinton의 예측을 반영하며, 그는 인공지능이 직업 부문에서 인간을 대체할 수 있는 잠재력을 경고하면서 직업 구조의 근본적인 변화를 시사합니다.
AI 긴급 중단 전략에 대한 중요한 우려와 과제:
1. “위험한” 임계값의 정의: AI가 더 이상 개발할만큼 위험해지는 정확한 매개 변수를 설정하는 것이 관건입니다. 명확한 정의 없이 중단에 동의하는 것은 주관적이며 해석의 여지가 있을 수 있습니다.
2. 강제성: 모든 당사자들이 중단 합의를 준수하도록 보장하는 것은 문제가 있습니다. 특히 AI를 위해 구체적으로 만들어진 국제 규제 틀이 없을 때에는 더욱 그렇습니다.
3. 기술적 능력: 킬 스위치의 실행 가능성 자체가 AI 시스템에 신뢰할 수 있는 메커니즘을 구축하는 복잡한 작업이 필요합니다.
4. 경쟁 압력: 경쟁사가 그렇지 않은 경우 새로운 리소스를 중지하거나 늦출 염려가 있어, AI 개발에서 잠재적인 군비 경쟁을 야기시킬 수 있습니다.
5. 데이터 개인 정보 보호 및 보안: 고급 AI 시스템은 방대한 양의 데이터를 처리할 수 있으며, 갑작스런 중단은 데이터 개인 정보 보호와 보안 리스크가 발생할 수 있습니다.
AI 중단 합의의 장점:
– 안전성 강화: 정교한 AI 시스템의 예기치 못한 결과에 대한 안전망을 제공합니다.
– 공공 신뢰: 해당 합의는 공중이 AI 기술과 그를 개발하는 당사자들에 대한 신뢰를 높일 수 있습니다.
– 공동 책임: 기술 기업들 사이의 책임과 협력 문화를 장려합니다.
AI 중단 합의의 단점:
– 혁신의 억제: 지나치게 조심스럽거나 모호한 지침은 혁신을 저해할 수 있습니다.
– 경쟁적 불이익: 해당 합의를 준수하는 조직이 규정이나 집행 수준이 다른 지역에서 뒤떨어질 수 있습니다.
– 실제적 시행의 어려움: 킬 스위치를 실행하고 관리하는 실제 측면은 어려울 수 있으며 비용이 많이 들 수 있습니다.
제안된 장점과 주목할 만한 도전에도 불구하고, 이 발전은 테크 산업이 AI의 미래를 성실하게 구성하는 책임에 대한 시각의 변화를 시사합니다. 선진 AI의 불가피성은 해로운 결과에 대비하는 안전장치를 고려하게끔 하고 있습니다. 이러한 프레임워크를 효과적으로 다듬고 시행하기 위한 계속된 연구와 이해당사자 간의 대화가 중요합니다.
이 합의의 분야적 맥락에 관심이 있는 경우, AI 정책 및 안전에 관한 권위 있는 국제 기관들의 주요 웹사이트인 Association for the Advancement of Artificial Intelligence (AAAI)의 AAAI와 Future of Life Institute의 Future of Life Institute 등에서 AI 개발, 정책 및 토론에 관한 정보를 확인할 필요가 있습니다. ev 발전 및 토론에 대한 리소스를 확인할 때 이러한 웹사이트를 확인하는 것이 중요합니다.
The source of the article is from the blog tvbzorg.com