A inteligência artificial (IA) está revolucionando o mundo das eleições, mas também apresenta riscos significativos para os processos democráticos. À medida que a eleição americana de 2024 se aproxima, as preocupações com a desinformação gerada por IA, deepfakes e mídia enganosa são mais prementes do que nunca. Felizmente, governos e empresas de tecnologia estão reconhecendo a necessidade de ação, mas ainda há muito trabalho a ser feito para proteger a democracia.
A recente Conferência de Segurança de Munique reuniu líderes do setor, incluindo OpenAI, Apple, Meta, Microsoft, TikTok, Google, e outros, para abordar os desafios colocados pela IA nas eleições. Eles se comprometeram a adotar medidas para rastrear a origem do conteúdo gerado por IA, detectar mídia enganosa e implementar precauções contra artimanhas impulsionadas por IA. Embora esses compromissos sejam um passo na direção certa, o sucesso deles depende de uma execução eficaz.
A chegada da tecnologia de IA generativa permite que fraudadores criem imagens, vídeos e áudios falsos incrivelmente realistas de candidatos e autoridades. Essas criações podem se espalhar rapidamente, a baixo custo e em grande escala. Além disso, os chatbots alimentados por IA permitem a criação de sites de eleição falsos e sites de notícias enganosos em questão de segundos. Essa capacidade fornece a atores mal-intencionados, tanto estrangeiros quanto domésticos, meios para conduzir campanhas de influência difíceis de rastrear.
A integração da IA generativa em mecanismos de busca e chatbots tem levado a casos em que eleitores que buscam informações eleitorais são confrontados com desinformação ou direcionados para sites marginais. Estudos mostram que ferramentas de IA populares frequentemente têm desempenho ruim ao lidar com determinadas questões relacionadas a eleições. Além disso, tecnologias de IA tradicionais podem contribuir para desafios à elegibilidade dos eleitores, potencialmente resultando em purgas equivocadas dos registros eleitorais.
Em resposta a esses desafios, empresas de IA, como a OpenAI, implementaram políticas para mitigar danos relacionados a eleições. A OpenAI proibiu usuários de criar chatbots de IA que se façam passar por candidatos e divulgar informações falsas sobre votação. Além disso, eles tomaram medidas para criptografar imagens e detectar qualquer uso não autorizado. No entanto, essas ações ainda têm limitações e mais precisa ser feito.
Um aspecto crucial que requer atenção é o de abordar narrativas e representações falsas que têm assombrado ciclos eleitorais anteriores. As políticas da OpenAI não proíbem explicitamente a criação e disseminação de conteúdo que mostre falsamente interferência eleitoral, máquinas de votação não confiáveis ou fraude eleitoral generalizada. Uma proibição explícita dessas categorias proporcionaria mais clareza e proteção aos eleitores.
A colaboração com desenvolvedores de terceiros é outra área que requer atenção. Quando mecanismos de busca de terceiros utilizam modelos da OpenAI, as respostas fornecidas podem ser imprecisas ou desatualizadas. Requisitos mais rígidos para parcerias e integração de modelos da OpenAI em mecanismos de busca e plataformas digitais protegeriam melhor os eleitores em busca de informações sobre votação e eleições.
A OpenAI não pode enfrentar esses desafios sozinha. Outras grandes empresas de tecnologia também devem divulgar suas próprias políticas eleitorais para ferramentas de IA generativa e ser transparentes sobre suas práticas. O padrão aberto da Coalizão para Procedência e Autenticidade de Conteúdo para incorporar conteúdo com marcadores digitais deve ser adotado amplamente.
Perguntas Frequentes
The source of the article is from the blog scimag.news