Criando um Padrão Global na Governança da Inteligência Artificial
Após uma dedicada fase de desenvolvimento de dois anos, que buscou a contribuição dos 46 estados membros do Conselho da Europa, instituições da UE e 11 países externos, incluindo Estados Unidos e Israel, o Comitê de Inteligência Artificial concluiu um acordo histórico. Este Ato de IA, aprovado em 21 de maio de 2024, pelo Conselho da Europa, visa estabelecer uma referência global para a regulamentação de IA na ausência de um consenso internacional anterior.
Uma Abordagem Baseada em Riscos para Salvaguardar Direitos e Fomentar Inovação
O Ato de IA destaca os riscos e promessas da IA. O Secretário-Geral do Conselho da Europa expressou a intenção do tratado de aproveitar os benefícios da IA ao mesmo tempo em que aborda suas possíveis ameaças. Objetivos-chave encapsulados no framework incluem garantir os direitos fundamentais dos cidadãos e incentivar o investimento e a inovação em IA dentro da UE.
Esta convenção introduz um sistema de classificação de riscos para limitar a entrada no mercado da UE de sistemas de IA de alto risco, como os envolvidos em manipulação cognitivo-comportamental ou estabelecimento de um sistema de pontuação social, que atualmente são proibidos. Além disso, o uso de dados biométricos para categorizar indivíduos por raça, religião ou orientação sexual será proibido. Multas substanciais serão impostas para fazer cumprir a lei contra tais violações.
Aplicação Abrangente do Ato de IA
Tanto autoridades públicas quanto empresas privadas devem obedecer aos padrões do tratado ou adotar ações alternativas para se alinhar com as obrigações internacionais de direitos humanos, democracia e estado de direito. O framework exige a adoção de medidas para “identificar, avaliar, prevenir e mitigar quaisquer riscos potenciais e considerar a necessidade de uma moratória, proibição ou outras ações apropriadas” quando as aplicações de IA puderem representar riscos incompatíveis com os direitos humanos – uma medida que reflete a natureza etnocêntrica da percepção dos direitos humanos que pode não ser universalmente aceita.
Um elemento definitivo do Ato de IA é a exigência de que os estados criem supervisão independente para garantir o cumprimento. A cerimônia de assinatura formal deste framework fundamental na governança da IA ocorrerá no dia 5 de setembro de 2024, em Vilnius.
O Ato de IA discutido no artigo está pronto para estabelecer uma referência para a regulamentação da inteligência artificial em todo o mundo. Aqui estão informações adicionais relevantes:
Principais Perguntas e Respostas:
– O que é o Ato de IA?
O Ato de IA é um framework legislativo projetado pelo Conselho da Europa para regular sistemas de inteligência artificial, classificando-os de acordo com o risco que representam e estabelecendo padrões para seu desenvolvimento, implementação e uso para salvaguardar os direitos humanos fundamentais.
– Por que esse ato foi considerado necessário?
Dada a ampla adoção de tecnologias de IA e seus impactos potenciais na sociedade, havia a necessidade de um framework regulatório unificado e abrangente para garantir que os sistemas de IA sejam desenvolvidos e usados de forma consistente com os valores democráticos, os direitos humanos e o estado de direito.
– Quais são os tipos de sistemas de IA considerados de alto risco?
Aplicações de IA de alto risco incluem aquelas que podem manipular comportamento cognitivo ou criar sistemas de pontuação social. O uso de dados biométricos para categorizar indivíduos por raça, religião ou orientação sexual também é considerado de alto risco e sujeito a proibição.
Principais Desafios e Controvérsias:
– Consenso Internacional: Alcançar um amplo consenso internacional sobre a regulamentação de IA é desafiador, considerando as diferentes normas legais, culturais e éticas entre os países.
– Ritmo Tecnológico: O ritmo acelerado de desenvolvimento da IA pode superar os mecanismos regulatórios, necessitando de revisão e adaptação contínuas das regulamentações.
– Cumprimento: A eficácia da aplicação do Ato de IA em várias jurisdições apresenta desafios práticos, incluindo a necessidade de recursos adequados e cooperação internacional.
Vantagens e Desvantagens:
– Vantagens:
– Estabelece um precedente para padrões internacionais em IA que podem promover direitos humanos e princípios democráticos.
– Incentiva o investimento e a inovação em IA dentro de um framework confiável que pode impulsionar o crescimento econômico.
– Estabelece responsabilidade para os criadores de sistemas de IA ao impor multas substanciais para violações.
– Desvantagens:
– Regulamentações impostas podem sufocar a inovação ao impor restrições pesadas aos desenvolvedores de IA e limitar a competitividade das empresas europeias de IA.
– Diferentes interpretações de direitos humanos podem levar a discordâncias e aplicação inconsistente do Ato de IA em diferentes contextos culturais.
– O processo de categorização de sistemas de IA com base em riscos é complexo e pode implicar em custos adicionais para conformidade e supervisão.
Para aqueles que procuram informações adicionais sobre o Conselho da Europa e mais insights sobre suas atividades relacionadas à regulamentação de AI, você pode acessar o site principal deles usando este link: Conselho da Europa.
Além disso, como este framework legislativo representa um avanço significativo na regulamentação da AI em todo o mundo, partes interessadas também podem explorar o site principal da União Europeia para descobrir mais sobre iniciativas semelhantes a nível da UE seguindo este link: União Europeia.