유럽 연합 의회가 인공지능(artificial intelligence) 제도를 승인한 결정은 유럽에서의 인공지능 개발에 혁신을 가속화 하며 안전을 보장하고 기본 권리를 준수하려는 목적을 가지고 있습니다. 2023년 12월 회원국과의 협상을 통해 합의된 규정은 유럽의 인공지능 발전에 장기적인 영향을 미칠 것으로 예상됩니다.
이 규제의 주요 목표는 “고위험 인공지능”에 의해 발생할 수 있는 잠재적 위험으로부터 민주주의, 법치주의, 환경 지속가능성 같은 핵심 가치를 보호하는 것입니다. 동시에 이 법은 혁신을 촉진해 유럽을 인공지능 분야의 선도적인 위치로 견인하려고 합니다. 이는 잠재적 위험과 영향 수준에 기반한 AI 시스템에 대한 포괄적인 의무를 설정합니다.
이 법에 따라 시민의 권리를 위협하는 특정 AI 응용 프로그램은 금지될 것입니다. 이에는 민감한 특징에 기초한 생체 측정 시스템과 안면 인식 데이터베이스를 위해 인터넷이나 CCTV 영상에서 안면 이미지를 무차별적으로 수집하는 것이 포함됩니다. 업무장소와 학교에서의 감정 인식, 소셜 스코어링, 프로파일링에만 근거한 예측적 경찰활동 및 인간 행동을 조작하거나 취약성을 이용하는 AI 시스템 또한 금지될 것입니다.
더 나아가, 이 법은 건강, 안전, 기본 권리, 환경, 민주주의, 법치주의에 중대한 피해를 줄 수 있는 다른 고위험 AI 시스템을 위한 특정 의무를 도입합니다. 이는 핵심 인프라, 교육 및 직업 훈련, 고용 및 은행업과 같은 필수적인 민간 및 공공 서비스에 사용되는 AI를 포함합니다. 이러한 시스템은 리스크를 평가하고 감소시킬 의무를 가지며 사용 기록을 유지하고 투명성과 정확성을 보장하고 인간 감독을 포함해야 합니다.
이 규정의 핵심 조항 중 하나는 시민들이 AI 시스템에 대한 불만을 제출하고 권리에 영향을 미치는 고위험 AI 시스템의 결정에 대한 설명을 받는 권리입니다. 이를 통해 개인을 권한 부여하고 AI 개발 및 배포에서의 책임을 강화할 수 있습니다.
이 법은 또한 일반용도 AI(GPAI) 시스템과 그들이 기초로 하는 모델에 대해 다루고 있습니다. 이러한 시스템은 EU 저작권법을 준수하고 훈련을 위해 사용된 내용의 자세한 요약을 게시하는 것을 포함한 투명성 요구사항을 충족해야 합니다. 더불어 시스템적 위험을 내포하는 보다 강력한 GPAI 모델은 모델 평가, 시스템적 위험의 평가 및 완화 그리고 사건 보고의 추가적인 요구사항을 받게 될 것입니다.
이 법의 핵심은 규제 산사스와 현실 세계 테스트를 확립하여 혁신과 중소기업(SMEs)을 지원하는 것입니다. 이러한 플랫폼은 SMEs와 스타트업이 시장에 진입하기 전에 혁신적인 AI 솔루션을 개발하고 교육할 기회를 제공할 것입니다.
내부 시장 위원회 공동 기고자인 Brando Benifei에 따르면, 이 새로운 법은 유럽에서 노동자와 시민의 권리를 보호하고 불허할 수 없는 AI 관행을 금지한 것으로서 의미 있는 이정표라고 합니다. AI 사무국의 설립은 회사들이 이 법규를 이행하는 데 더 많은 지원을 받게 될 것입니다. 이 법은 인간과 유럽 가치를 AI 개발의 핵심에 두고 있습니다.
비록 이 규정은 최종 법률학-언어학자의 검토를 받아야 하며 이 사상의 승인을 위해 공식적인 제도의회에서 받아야 하지만, 입법기간이 끝나기 전에 이를 승인할 것으로 예상됩니다. 이 법은 공식저널에 발표된 후 20일 후에 발효되며 완전히 적용될 것입니다. 그러나 금지된 관행 및 실천 지침 등과 같은 특정 조항은 더 빨리 시행될 것입니다. 의료 분야에서의 AI 규제는 여전히 전문가들 사이에서 논의되고 있는 주제입니다.
FAQ
The source of the article is from the blog newyorkpostgazette.com