Kevin Topolsky2024년 9월 6일, 유럽연합은 미국, 영국, 노르웨이, 이스라엘, 몰도바를 비롯한 국가들과 협력하여 대규모 국제 협약을 체결했습니다. 이 조약은 AI 협약이라고 불리며, 인공지능 기술의 사용을 규제하면서 인권 보호를 최우선으로 하는 법적 의무를 설정합니다. 이 이니셔티브는 46개 회원국으로 구성된 유럽 평의회에 의해 지원됩니다.
AI 협약은 최근 제정된 EU AI 법안을 보완하며, 인권 보호에 명확하게 중점을 둡니다. 인공지능에 대한 EU 법률이 내부 시장을 규제하는 것과는 달리, 이 협약은 공공 및 민간 부문에서 인공지능 기술의 영향을 받는 개인을 위한 안전 조치를 시행하는 것을 목표로 합니다.
2019년부터 전담 위원회를 통해 구상된 협약은 시민 사회 대표를 포함한 전문가들에 의해 형성되었습니다. 유럽 평의회의 인공지능 위원회가 텍스트를 최종화하여 서명국 정부가 효과적으로 이 조항을 입법화하고 시행할 수 있도록 했습니다.
조약에 명시된 특정 원칙의 애매함에 대한 우려가 제기되었습니다. 전문가들은 광범위한 해석이 특히 국가 안보 맥락에서 상당한 예외를 허용할 수 있다고 경고합니다. 또한, 이 조약은 기업이 AI가 민주주의와 인권에 미치는 영향을 평가하고, 사용자가 AI 시스템과 상호 작용할 때의 투명성을 보장해야 한다고 강조합니다.
시민들은 AI에서 생성된 결정을 이의 제기할 권리를 가지게 되어 AI 응용 프로그램의 책임성을 향한 중요한 단계를 의미합니다.
인권 보호를 위한 AI 기술 국제 조약 체결: 경계를 넓히다
2024년 9월 6일, 글로벌 사회는 기술 거버넌스 분야에서 AI 기술에 관한 국제 조약이 체결되는 중대한 순간을 목격했습니다. 흔히 AI 협약으로 알려진 이 조약은 유럽연합이 미국, 영국, 노르웨이, 이스라엘, 몰도바와 같은 주요 국가들과 함께 주도하여 인공지능(AI)을 인권을 지키고 보호하는 방식으로 규제하려는 집단적 노력을 상징합니다.
조약의 넓은 맥락
AI 협약은 고립된 이니셔티브가 아니며, EU AI 법안과 같은 기존의 프레임워크와 함께 작동하여 인공지능 기술의 규제 환경을 강화합니다. 급속한 기술 발전에 직면하여 개인의 권리를 보호하는 것을 목표로 하는 인간 중심의 접근 방식을 강조합니다. 이 조약의 시기는 AI 시스템의 잠재적 위험, 즉 편견, 잘못된 정보, 및 사생활 침해에 대한 글로벌 인식이 높아지고 있음을 보여줍니다.
조약이 다루는 주요 질문
조약과 관련해 가장 긴급한 질문 중 하나는: AI 협약의 이행은 어떻게 모니터링될 것인가? 각 서명국은 규제 기관을 설립해야 하며, 이 기관은 준수를 감독하고 AI 기술이 인권 기준을 존중하도록 보장하는 역할을 맡습니다.
또 다른 중요한 질문은: AI 관련 불만을 제기할 수 있는 메커니즘은 무엇인가? 이 조약은 시민들이 AI에서 생성된 결정을 이의 제기할 수 있는 권리를 보장하여, 알고리즘 프로세스에서 발생할 수 있는 잠재적으로 해로운 또는 부당한 결과에 법적 경로로 이의를 제기할 수 있도록 합니다.
도전과 논란
획기적인 성격에도 불구하고 AI 협약은 여러 도전 과제에 직면해 있습니다. 주요 우려 사항은 기타 기존 법률 및 지침과의 규제 겹침 가능성입니다. 이는 기업들 사이에 혼란을 일으키고 AI 분야의 혁신을 저해할 수 있습니다. 또한, 조약 내에서 AI 기술의 정의에 대한 논의가 계속되고 있습니다. 모호한 정의는 원래의 보호를 약화시킬 수 있는 허점을 만들 수 있습니다.
또 다른 논쟁의 여지는 국가 안보와 개인 권리 간의 균형입니다. 비판자들은 국가 안보를 위한 예외를 허용하는 조항이 악용될 우려가 있어 인권이 국가 안전을 명분으로 위험에 처할 수 있다고 주장합니다.
AI 협약의 장점 및 단점
장점:
– 책임 강화: 이 조약은 시민들이 AI 관련 결정을 이의 제기할 수 있도록 하여 AI 시스템에 대한 책임을 증가시킵니다.
– 국제 협력: 여러 국가의 참여를 통해 조약은 협력을 촉진하고 AI 거버넌스에 대한 글로벌 기준을 설정합니다.
– 인권 보호: 급격히 발전하는 기술에 직면하여 기본 권리의 보호를 강조합니다.
단점:
– 이행 과제: 법체계 및 규제 환경의 다양성은 서명국 간의 균일한 이행을 복잡하게 만들 수 있습니다.
– 혁신 저해 우려: 일부 산업 이해관계자들은 엄격한 규제가 혁신을 저해하고 AI 기술의 잠재적 이익을 제한할 수 있다고 우려합니다.
– 오해의 소지: 조약 내의 광범위한 언어는 다양한 해석을 초래할 수 있으며, 이는 조약의 효과성을 저해할 수 있습니다.
AI 협약은 책임 있는 AI 개발 및 배포를 위한 중요한 진전을 나타냅니다. 세계가 AI 기술의 윤리적 함의에 대해 고심하는 가운데, 이 조약은 향후 국제 협약에 대한 중요한 선례를 설정합니다.
AI 규제에 대한 보다 자세한 통찰력과 업데이트는 유럽 평의회를 방문하세요.
