Um relatório recente do Instituto Nacional de Padrões e Tecnologia (NIST) lança luz sobre possíveis ataques que poderiam comprometer a segurança de sistemas de inteligência artificial (IA), ao mesmo tempo em que oferece estratégias para mitigar esses riscos. Intitulado “Aprendizado de Máquina Adversarial: Uma Taxonomia e Terminologia de Ataques e Mitigações”, o relatório destaca vários tipos de ataques, incluindo evasão, envenenamento, violações de privacidade e abuso. O NIST categoriza esses ataques com base no conhecimento, objetivos e capacidades do atacante.
De acordo com Alina Oprea, uma das co-autoras do relatório, muitos desses ataques podem ser facilmente executados com um conhecimento mínimo do sistema de IA e capacidades adversariais limitadas. Por exemplo, ataques de envenenamento podem ser realizados manipulando algumas dezenas de amostras de treinamento, que constituem uma pequena porcentagem do conjunto de treinamento como um todo.
Para mitigar os riscos associados a ataques de envenenamento, o relatório sugere várias abordagens. Estas incluem a sanitização dos dados, a modificação do algoritmo de treinamento de aprendizado de máquina e a implementação de métodos de treinamento robustos em vez de protocolos de treinamento tradicionais. Ao adotar essas estratégias, os desenvolvedores e usuários de sistemas de IA podem aumentar significativamente a segurança e confiabilidade de suas aplicações.
A divulgação deste relatório faz parte dos esforços contínuos do NIST para promover o desenvolvimento de IA confiável. É essencial abordar as vulnerabilidades potenciais em sistemas de IA para garantir sua eficácia e integridade em diversos domínios.
Para saber mais sobre os últimos avanços e desafios em IA, líderes da indústria e autoridades federais podem se inscrever para a 5ª Cúpula Anual de Inteligência Artificial do Potomac Officers Club, programada para 21 de março. O evento fornecerá uma plataforma para discussões significativas sobre os últimos desenvolvimentos e melhores práticas na segurança de sistemas de IA.
The source of the article is from the blog papodemusica.com