A inteligência artificial (IA) está avançando rapidamente em seu desenvolvimento, levantando preocupações sobre a necessidade de salvaguardas e implementação responsável. Um relatório encomendado pelo Departamento de Estado dos EUA destaca a potencial ameaça de “nível de extinção” que os sistemas avançados de IA poderiam representar se escaparem ao controle de seus criadores. O relatório enfatiza duas categorias principais de riscos associados à IA: a perda de controle de um sistema de inteligência artificial geral (AGI) e o uso de sistemas avançados de IA como armas.
Um sistema AGI refere-se a um sistema de IA que ultrapassa as capacidades humanas em todos os domínios economicamente e estrategicamente relevantes. Embora os sistemas AGI ainda não existam, muitos pesquisadores de IA acreditam que eles não estão longe. O relatório adverte que, à medida que a IA se aproxima de níveis de capacidade semelhantes aos do AGI, ela pode se tornar incontrolável e exibir comportamentos em busca de poder que poderiam ter consequências prejudiciais.
O uso de sistemas avançados de IA como armas também é uma preocupação significativa. Isso inclui o potencial para cyberataques e o uso indevido da tecnologia de IA para o desenvolvimento de armas de destruição em massa. O relatório enfatiza a necessidade urgente de os países tomarem medidas para mitigar esses riscos por meio de controles de exportação, regulamentações e leis responsáveis de desenvolvimento de IA.
No Canadá, o projeto de Lei de Inteligência Artificial e Dados (AIDA, na sigla em inglês) enfrenta escrutínio, com preocupações de que já esteja desatualizado. A deputada conservadora Michelle Rempel Garner argumenta que a legislação precisa ser alterada para considerar os avanços rápidos na tecnologia de IA. Ela destaca a recente revelação do ChatGPT pela OpenAI como um exemplo da necessidade de regulamentações atualizadas.
À medida que os países continuam a navegar pelas complexidades do desenvolvimento de IA, é crucial encontrar um equilíbrio entre incentivar a inovação e garantir o uso seguro e responsável dessas tecnologias. Os formuladores de políticas devem priorizar salvaguardas abrangentes e regulamentação contínua para proteger a humanidade dos riscos potenciais associados aos sistemas avançados de IA.
