Um novo relatório lançou luz sobre os riscos alarmantes que a inteligência artificial (IA) em rápida evolução representa para a segurança nacional. O relatório, encomendado pelo Departamento de Estado dos EUA, adverte que, se não forem controlados, sistemas de IA avançados poderiam trazer consequências catastróficas e até representar uma ameaça ao nível de extinção para a espécie humana.
Os achados do relatório foram baseados em extensivas entrevistas com mais de 200 especialistas no campo, incluindo principais executivos das principais empresas de IA, pesquisadores de cibersegurança, especialistas em armas de destruição em massa e autoridades de segurança nacional. Ele enfatiza a urgência para o governo federal abordar esses riscos antes que seja tarde demais.
Enquanto o relatório foi encomendado pelo Departamento de Estado, é importante notar que ele não representa a posição oficial do governo dos EUA. No entanto, ele serve como um forte lembrete de que a IA, apesar de seu enorme potencial de transformação positiva, também traz perigos significativos.
Jeremie Harris, CEO e co-fundador da Gladstone AI, a organização que lançou o relatório, enfatiza a necessidade de estar ciente dos sérios riscos associados à IA. Há evidências crescentes de que uma vez que certas capacidades são alcançadas, os sistemas de IA podem se tornar incontroláveis. Esta é uma preocupação ecoada por vários especialistas e pesquisadores no campo.
Em resposta a esses riscos, a Casa Branca tomou medidas para gerenciar os perigos potenciais da IA. A ordem executiva do Presidente Joe Biden sobre IA é considerada o passo mais significativo que qualquer governo deu para equilibrar as promessas e os riscos dessa tecnologia emergente. A administração está trabalhando ativamente com parceiros internacionais e pedindo uma legislação bipartidária para abordar os riscos associados à IA.
O relatório destaca dois perigos chave colocados pela IA. Em primeiro lugar, sistemas de IA avançados poderiam potencialmente ser militarizados, levando a danos irreversíveis. Em segundo lugar, há uma crescente preocupação dentro dos laboratórios de IA de que os próprios sistemas sendo desenvolvidos poderiam fugir ao controle, representando consequências devastadoras para a segurança global. O relatório estabelece paralelos entre o surgimento da IA e a introdução de armas nucleares, enfatizando os riscos de uma corrida armamentista de IA, conflitos e acidentes fatais em grande escala.
Para enfrentar essas ameaças, o relatório propõe medidas ousadas, incluindo o estabelecimento de uma nova agência de IA, salvaguardas regulatórias de emergência e limites no poder de computação usado para treinar modelos de IA. Os autores do relatório enfatizam a clara e urgente necessidade de intervenção do governo dos Estados Unidos para mitigar esses riscos de forma eficaz.
Uma das preocupações significativas destacadas no relatório é a falta de medidas adequadas de segurança dentro da IA avançada. Pressões competitivas estão levando empresas a priorizar a aceleração do desenvolvimento de IA em detrimento da garantia de segurança, aumentando assim o risco de que os sistemas de IA mais avançados caiam em mãos erradas e sejam utilizados como armas contra os Estados Unidos.
Os riscos existenciais apresentados pela IA têm sido objeto de preocupação para várias figuras influentes na indústria. Geoffrey Hinton, conhecido como o “Padrinho da IA”, expressou sua crença de que existe uma chance de 10% de a IA levar à extinção humana nos próximos três décadas. Líderes empresariais também estão cada vez mais cientes desses perigos, com um percentual significativo expressando preocupações com a capacidade da IA de destruir a humanidade nos próximos cinco a dez anos.
O relatório também lança luz sobre as preocupações privadas compartilhadas por alguns funcionários de empresas de IA. Um indivíduo até mesmo advertiu que o lançamento de um modelo de IA de próxima geração específico poderia ter consequências devastadoras, como a quebra da democracia através da interferência nas eleições ou manipulação de eleitores.
Um fator essencial que contribui para os riscos associados à IA é a velocidade com que ela evolui, especificamente a inteligência artificial geral (AGI). AGI, que possui habilidades humanas ou até super-humanas para aprender, é vista como o principal responsável pelo risco catastrófico resultante da perda de controle. Embora os especialistas tenham diferentes estimativas sobre quando a AGI poderá ser alcançada, o relatório permanece cauteloso sobre os riscos potenciais à medida que a tecnologia avança.
Como o relatório da Gladstone AI destaca as preocupações em torno do impacto da IA na segurança nacional, torna-se evidente que a ação urgente é necessária para garantir o desenvolvimento e implementação responsáveis da IA. O equilíbrio entre os benefícios potenciais da IA e os riscos inerentes será crucial para proteger nosso futuro e os interesses das nações em todo o mundo.
Perguntas Frequentes
The source of the article is from the blog elblog.pl
