Em um movimento inovador, uma unidade de pesquisa e desenvolvimento no Reino Unido revelou uma visão inovadora para “garantias de segurança quantitativas” no campo da inteligência artificial (IA). A Agência de Pesquisa e Inovação Avançada (ARIA) está pavimentando o caminho para altos padrões de segurança em IA, estabelecendo paralelos com as rigorosas medidas de segurança na energia nuclear e na aviação de passageiros.
No centro do plano da ARIA está a implementação de um sistema de IA “guardião”. Este sentinela digital atuará como um salva-vidas, garantindo que outros agentes de IA operem dentro de limites predefinidos para aplicações específicas. Ao desenvolver essa IA guardiã, a ARIA tem como objetivo inculcar uma garantia probabilística de que nenhum dano resultará das ações de IA.
A ARIA comprometeu £59 milhões com o projeto, com o objetivo de demonstrar um conceito de prova escalável em um domínio designado. As aplicações potenciais variam desde o equilíbrio da rede elétrica até a gestão da cadeia de suprimentos, com o objetivo final de garantir implementações de IA de alto risco, como melhorias na infraestrutura crítica ou otimização de testes clínicos.
O idealizador por trás dessa iniciativa inovadora é David ‘davidad’ Dalrymple, co-inventor da popular criptomoeda Filecoin. A extensa pesquisa de Dalrymple em segurança técnica de IA o motivou a explorar a abordagem guardiã. Agora, como diretor do programa da ARIA, ele tem a oportunidade de transformar suas teorias em soluções tangíveis.
**A Garantia do Guardião:**
Os guardiões desenvolvidos pela ARIA dependerão de modelos científicos do mundo e provas matemáticas para garantir a segurança. Dalrymple enfatiza que essa abordagem combina conceitos comerciais e acadêmicos. Ao contrário dos métodos existentes empregados por grandes empresas de IA, que dependem de amostras finitas sem oferecer garantias, a abordagem guardiã da ARIA combina capacidades de vanguarda com raciocínio matemático.
Alcançar essa fusão necessita de uma colaboração interdisciplinar profunda, e é aqui que o papel da ARIA se torna fundamental. Estabelecida no ano passado, a ARIA financia pesquisas “de alto risco, alta recompensa” e tem sido comparada à DARPA, a renomada unidade de pesquisa do Pentágono conhecida por seus projetos desafiadores.
Dalrymple estabelece paralelos entre o novo projeto da ARIA e o programa HACMS da DARPA, que criou com sucesso um quadricóptero à prova de hackers por meio de verificação formal. Aplicando princípios semelhantes, o plano de Dalrymple visa cumprir a promessa de “garantias de segurança quantitativas”. Notavelmente, o renomado cientista da computação Yoshua Bengio expressou desapontamento com a falta de progresso nessa área, tornando a iniciativa de Dalrymple um potencial agente de mudanças.
Embora o orçamento da ARIA tenha enfrentado escrutínio de políticos, com alguns legisladores questionando seu tamanho em comparação com outros órgãos de pesquisa governamentais, a agência pode demonstrar potenciais economias de custos. Um de seus programas recentemente lançados, por exemplo, visa treinar sistemas de IA a apenas 0,1% do custo atual.
À medida que a próxima Conferência TNW se concentra no tema “Ren-AI-ssance: O Renascimento Impulsionado pela IA,” essa abordagem inovadora para a segurança da IA certamente irá gerar outras discussões. Com a implementação do sistema guardião e um foco em garantias de segurança quantitativas, a ARIA e seu líder visionário David Dalrymple têm o potencial de desbloquear novas fronteiras em IA, garantindo o uso seguro e responsável dessa tecnologia transformadora.
The source of the article is from the blog maltemoney.com.br