유럽연합 의원들은 AI Act로 알려진 세계 최고 수준의 인공지능 법률에 최종 승인을 줄 예정입니다. 이 획기적인 법률은 빠르게 발전하는 기술을 규제하는데 있어 다른 정부들에게 글로벌한 지침이 될 것으로 기대됩니다. AI Act는 AI에 대한 인간 중심적 접근을 보장하고, 기술의 잠재력을 경제 성장과 사회적 발전을 위해 활용하면서 인간이 계속해서 통제하는 것을 목표로 합니다.
AI Act는 5년 전에 처음 제안되었으며, 유럽 의회에 의해 승인되기로 예정되어 있습니다. 이 법률은 AI 응용 프로그램의 위험에 따라 다른 수준의 검토를 채택하고 있습니다. 콘텐츠 추천 알고리즘이나 스팸 필터와 같은 저위험 시스템은 AI로 구동되었음을 공개함으로써 최소한의 규제만 받게 됩니다. 대부분의 AI 시스템이 이 범주에 속할 것으로 예상됩니다.
반면 의료 기기나 중요 인프라와 같은 고위험 AI 응용 프로그램은 더 엄격한 요구사항을 준수해야 합니다. 이에는 고품질 데이터 사용, 사용자에게 명확한 정보 제공, 특정 지침 준수가 포함됩니다. AI Act는 또한 사회적 점수 시스템, 특정 유형의 예측형 경찰 활동, 교육 및 직장 환경에서의 감정 인식 시스템과 같은 불허용한 위험을 초래하는 AI 사용을 금지하고 있습니다.
AI Act에 도입된 또 다른 중요한 부분은 생성형 AI 모델의 고려입니다. 이러한 모델은 AI 챗봇 시스템이 독특하고 생동감 있는 응답, 이미지 등을 생성할 수 있게 해 줍니다. 초기 초안에는 이러한 모델들에 대해 논의되지 않았습니다. 따라서 일반용 AI 모델의 개발자들은 사용된 훈련 데이터(텍스트, 이미지, 비디오 등)에 대한 상세한 요약 제공이 필요할 것입니다. 또한, AI로 생성된 딥페이크 콘텐츠는 인위적으로 조작되었음을 명확히 표시해야 합니다.
AI Act는 또한 잠재적인 체계적 위험을 야기할 수 있는 가장 크고 강력한 AI 모델에 대한 검토 및 규제의 필요성을 강조하고 있습니다. 이러한 모델들(예: OpenAI의 GPT4 및 Google의 Gemini)은 심각한 사고를 유발하거나 사이버 공격에 악용될 수 있는 잠재력을 가졌다고 여겨집니다. 다양한 응용분야를 통해 생성형 AI를 통한 해로운 편견의 전파에 대한 우려가 있습니다.
이러한 AI 시스템을 제공하는 기업들은 위험을 평가하고 완화하며, 심각한 사건을 보고하고, 사이버 보안 조치를 시행하고, 에너지 사용량을 공개할 책임이 있습니다. 이를 통해 AI 기술의 책임과 책임 있는 사용을 보장하는 것입니다.
AI Act의 시행으로 인해 유럽은 AI 규제 분야에서 선도하는 입장을 취하며, 나머지 세계에게 모범을 제시하고 있습니다. 조 바이든 미국 대통령의 AI에 대한 행정 명령과 같이 다른 정부들도 규제의 필요성을 인식하고 있지만, 유럽연합의 포괄적인 규정 체계는 글로벌적인 AI 관리에 대한 토론을 형성하고, 다른 지역의 미래 법률에 영향을 줄 것으로 예상됩니다.
FAQ
AI Act란 무엇인가요?
AI Act는 유럽 연합이 채택한 역사적인 입법으로, 인공지능 사용을 규제하기 위한 규칙과 가이드라인을 제정합니다.
AI Act의 주요 내용은 무엇인가요?
AI Act는 위험에 기반한 접근법을 도입하여, 저위험 AI 시스템에 대해 가벼운 규제를 도입하고 고위험 AI 사용에 대해 엄격한 요구사항을 제시합니다. 불허용 위험으로 여겨지는 특정 AI 응용 프로그램을 금지하며, 생성형 AI 모델의 규제에 대해 다룹니다.
AI Act가 AI 시스템을 제공하는 기업에 어떤 영향을 미칠까요?
AI 시스템을 제공하는 기업들은 제품과 관련된 위험을 평가하고 완화하고, 심각한 사건을 보고하며, 사이버 보안 조치를 시행하고, 에너지 사용량을 공개해야 합니다. 이를 통해 AI 기술의 책임과 책임 있는 사용을 보장합니다.
AI Act는 유럽 외의 AI 규제에 영향을 미치나요?
AI Act는 AI 규제에 대한 고민을 하는 다른 정부들에게 글로벌한 안내지로 기능할 것으로 예상됩니다. 각 나라가 독자적인 법률을 개발할 수 있지만, 유럽 연합의 포괄적인 규칙 세트가 글로벌 AI 관리에 대한 토론을 영향을 줄 것으로 예상되며, 다른 지역의 미래 규제에 영향을 줄 것입니다.
용어 설명
– 인공지능 (AI): 인공지능은 사람이 도와줄 때만 가능한 시각 인식, 의사 결정, 문제 해결과 같은 작업을 수행할 수 있는 컴퓨터 시스템의 개발을 가리킵니다.
– 생성형 AI 모델: 인간과 유사한 행동을 모방하는 텍스트, 이미지, 비디오 등의 원본 콘텐츠를 생성할 수 있는 AI 모델입니다.
– 딥페이크: 수사관련 미디어나 비디오 등에서 어떤 사람의 외모를 다른 사람의 외모로 바꾸는 일종의 가짜 미디어를 가리킵니다.
– 사이버 공격: 데이터 도용, 운영 방해 그리고 해일을 일으키거나 해로운 작용을 유발하기위해 컴퓨터 시스템이나 네트워크를 위한 악의적 조치입니다.
권장 관련 링크:
– 유럽 위원회 – 인공지능
– EFMA – 유럽의 AI
– Government Technology – 유럽연합의 AI 규제에서의 길목
The source of the article is from the blog elektrischnederland.nl