유럽 의회는 인공지능의 미래를 형성하는 데 큰 도약을 내딛었습니다. 최근 의회는 황금법률로 평가받는 인공지능 법안을 승인했습니다. 이 법안은 안전을 보장하고 기본 권리를 지키며 AI 산업에서 혁신을 촉진하기 위한 것으로, 상당한 지지를 받았습니다.
“찬성 523표, 반대 46표, 기권 49표로, 우리는 공식적으로 세계 최초의 인공지능에 대한 결속적인 법률을 마련했습니다,”라고 내부 시장 위원회의 공동 책임자인 브란도 베니페이가 언급했습니다. 그는 덧붙여 “유럽에서는 용인할 수 없는 AI의 행태를 금지하고 근로자 및 시민의 권리를 보호할 것입니다. 인간과 유럽 가치를 AI 발전의 핵심으로 지킨다고 확신합니다.”
이 인공지능 법안은 민주주의, 법의 지배, 환경 지속 가능성을 AI의 잠재적 위험으로부터 보호하기 위해 설립되었습니다. 동시에 이 법규는 혁신을 촉진하며, 유럽을 이 급격히 변화하는 분야의 선두주자로 위치시키기 위한 목표를 가지고 있습니다. AI의 위험과 영향 가능성에 기반한 의무를 부과함으로써, 균형을 맞추려는 것입니다.
이 법안의 주목할 만한 측면 중 하나는 시민의 권리를 침해하는 특정 AI 응용 프로그램의 금지입니다. 금지된 응용 프로그램의 구체적인 사례로는 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 인터넷이나 CCTV 영상에서 얼굴 이미지 수집, 감정 인식, 사회 평가, 예측형 경찰활동, 인간 행동 조작이나 취약점을 이용하는 AI 등이 포함됩니다.
의회가 이러한 금지 조항을 도입했지만, 일부 상황에서는 법 집행 기관에 예외 사항을 제공했습니다. 법 집행 기관은 엄격한 보호 조치가 따르는 한, 좁게 정의된 상황에서 생체 인식 시스템(RBI)을 사용할 수 있습니다. 실시간 RBI 사용은 시간적, 지리적 한정성을 갖고 있으며, 사전 판사 또는 행정 승인이 요구됩니다. 반면 사후 RBI는 사법 승인이 필요하며, 범죄 행위와 연결돼야 합니다.
또한, 이 규정은 인프라 제어, 교육, 고용, 보건, 법 집행, 이민 및 국경 관리, 사법, 민주적 프로세스와 같은 중요 분야에 영향을 미치는 고위험 AI 시스템의 의무에 대해 다루고 있습니다. 이러한 시스템은 위험을 평가하고 완화하기, 사용 로그를 유지하고, 투명성과 정확성을 보장하며, 인간 감독을 통합해야 합니다. 시민들은 AI 시스템에 대한 불만을 제기하고, 그들의 권리에 영향을 미치는 고위험 AI 시스템에 대한 결정에 대한 설명을 받을 권리가 있습니다.
투명성은 특히 일반 목적 AI(GPAI) 시스템과 관련하여 중요한 측면입니다. 이러한 시스템과 그들을 기반으로 하는 GPAI 모델은 EU 저작권 법을 준수하고, 교육용으로 사용된 내용에 대한 상세한 요약을 제공해야 합니다. 더욱 강력한 GPAI 모델은 체계적 위험을 야기할 수 있어, 모델 교육, 위험 평가 및 완화 조치, 사건 보고 등의 추가 요구 사항을 직면하게 됩니다. 또한, “딥페이크”로 알려진 인공 또는 조작된 이미지, 오디오, 또는 비디오 콘텐츠는 명시적으로 해당 사실로 표시되어야 합니다.
혁신 육성의 중요성을 인식한 유럽 의회는 국가수준에서 규제 샌드박스와 현실 세계 테스트의 설립을 요구했습니다. 이러한 계획은 중소기업 및 스타트업에게 개발과 혁신적 AI 솔루션 훈련을 시장 진입 전에 할 수 있도록 지원할 것입니다.
유럽 인공지능 법안의 승인은 인공지능의 규제와 이용에 있어서 중대한 전환점을 의미합니다. 이 법령은 혁신이 번성할 수 있는 미래를 내걸고, AI가 기본 권리를 존중하고 개인의 복지를 보호하도록 보장합니다. 이 첩보로운 법률을 통해 유럽은 책임 있는 윤리적 인공지능 분야에서 세계를 리드해 나가는 대담한 한걸음을 내딛고 있습니다.
### FAQ
**인공지능 법안의 목적은 무엇입니까?**
인공지능 법안의 목적은 안전을 보장하고 기본 권리를 보호하며 혁신을 촉진하고 유럽을 인공지능 분야의 선두주자로 위치시키는 것입니다.
**규정에 따른 금지된 응용 프로그램은 어떤 것이 있나요?**
규정에는 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 미타겟팅된 얼굴 이미지 수집, 직장과 학교에서의 감정 인식, 사회 점수 부여, 프로필링을 기반으로 한 예측적 경찰활동, 인간 행동 조작 또는 취약성 이용하는 AI 등이 포함됩니다.
**범죄 집행에 대해 특별한 예외는 있습니까?**
범죄 집행은 한정적이고 정의된 상황에서 예외가 부여됩니다. 법 집행기관은 엄격한 보호 및 인가가 필요한 상황에서 생체 인식 시스템 사용이 허용됩니다.
**고위험 AI 시스템에는 어떤 의무가 있나요?**
중요 분야에서 사용되는 고위험 AI 시스템은 위험을 평가하고 완화해야 하며, 사용 로그를 유지하고, 투명성과 정확성을 보장하며, 인간 감독을 통합해야 합니다. 시민은 고위험 AI 시스템에 의한 결정에 관해 불만을 제기하고 설명을 받을 권리가 있습니다.
**AI 시스템에 적용되는 투명성 요건은 무엇입니까?**
일반 목적 AI 시스템 및 그들이 기반으로 하는 모델은 EU 저작권법을 준수하고, 교육용으로 사용된 내용에 대한 상세한 요약을 제공해야 합니다. 체계적 위험을 야기할 수 있는 보다 강력한 모델은 평가, 위험 평가, 완화 조치 및 사건 보고에 대한 추가 요구 사항을 직면하게 됩니다.
**인공지능 법안을 통해 혁신은 어떻게 지원되나요?**
유럽 의회는 국가수준에서 규제 샌드박스와 현실 세계 테스트의 설립을 요구하고 있습니다. 이러한 계획은 중소기업 및 스타트업에게 개발 및 혁신적 AI 솔루션의 훈련을 시장 진입 전에 할 수 있도록 지원할 것입니다.
The source of the article is from the blog smartphonemagazine.nl