As gigantes de tecnologia do Reino Unido, incluindo OpenAI, Google DeepMind, Microsoft e Meta, estão instando o governo do Reino Unido a acelerar os testes de segurança para sistemas de inteligência artificial (IA). Embora as empresas tenham se comprometido a abrir seus últimos modelos generativos de IA para revisão pelo recém-criado Instituto de Segurança de IA (AISI), elas buscam clareza sobre os testes, prazos e processo de feedback envolvidos.
Ao contrário de acordos legalmente vinculativos, esses compromissos voluntários destacam os desafios de depender da auto-regulação da indústria no campo em rápida evolução da IA. Em resposta, o governo do Reino Unido enfatizou a necessidade de requisitos vinculativos futuros para responsabilizar os desenvolvedores de IA pela segurança do sistema.
O AISI, apoiado pelo governo, desempenha um papel fundamental na visão do primeiro-ministro Rishi Sunak para o Reino Unido como líder no enfrentamento dos riscos potenciais da IA e já iniciou testes em modelos de IA existentes. Ele também tem acesso a modelos inéditos, como o Gemini Ultra do Google. O foco desses testes está em mitigar os riscos associados ao mau uso da IA, especialmente em cibersegurança. A colaboração com o Centro Nacional de Segurança Cibernética no QG das Comunicações do Governo (GCHQ) fornece especialização nessa área crucial.
Contratos governamentais recentes revelam que o AISI alocou £1 milhão para adquirir capacidades para testar a vulnerabilidade de chatbots de IA a jailbreaking e proteção contra ataques de spear-phishing. Além disso, o AISI está desenvolvendo sistemas automatizados para facilitar a engenharia reversa do código-fonte, permitindo uma avaliação completa dos modelos de IA.
O Google DeepMind expressou seu compromisso em colaborar com o AISI, com o objetivo de aprimorar a avaliação e as práticas de segurança dos modelos de IA. No entanto, a OpenAI e a Meta se recusaram a comentar sobre o assunto.
No geral, o esforço das gigantes de tecnologia do Reino Unido para testes de segurança de IA reflete a importância do desenvolvimento e regulamentação responsáveis para lidar efetivamente com os riscos potenciais associados aos avanços da IA. O foco do governo em requisitos vinculativos e colaboração da indústria visa garantir segurança e responsabilidade no campo em rápido crescimento da tecnologia de IA.
The source of the article is from the blog myshopsguide.com