A Equipe de Inteligência da OpenAI Explora Campanhas de Influência Impulsionadas por IA
Em uma discussão reveladora com veículos de mídia japoneses selecionados, incluindo os Jornais The Mainichi, Ben Nimmo, Chefe de Pesquisa de Inteligência da OpenAI, revelou casos de operações de influência estrangeira direcionadas ao Japão, entre outros. Até o momento, o uso predominante de IA nesses esquemas tem sido na criação de texto.
Identificação do Uso Malicioso de IA pela OpenAI
A OpenAI avançou com a IA interativa, como o ChatGPT. De acordo com um relatório revelado em 30 de maio, a empresa detectou e subsequentemente suspendeu contas ligadas a cinco grupos operando na Rússia, China e Israel, entre outros, por utilizarem sua IA em operações de influência. Em suas descobertas, destaca-se uma rede supostamente conectada às agências policiais chinesas, conhecida como “Spamouflage”. Eles alegadamente criaram narrativas em língua japonesa se opondo à liberação de água tratada da Usina Nuclear de Fukushima Daiichi no oceano, utilizando a tecnologia da OpenAI, e disseminaram essas narrativas em grandes plataformas de blogs.
Definindo Operações de Influência
Nimmo caracteriza as operações de influência como tentativas secretas de influenciar a opinião pública ou impactar eventos políticos sem revelar as identidades ou intenções dos operadores – em contraste com a mera disseminação de informações falsas ou imprecisas. Ele enfatiza a importância de investigar não apenas o conteúdo, mas também as entidades que orquestram essas operações e seus padrões de comportamento.
Apesar de uma investigação detalhada, não foram encontradores outros originadores de campanhas de influência direcionadas ao Japão além do “Spamouflage” e não foram identificadas operações semelhantes voltadas para as eleições presidenciais dos EUA de novembro. Primariamente, a IA foi utilizada para compor ou traduzir texto para redes sociais ou postagens de blog nestes esforços de influência. O uso indevido de imagens geradas foi considerado negligenciável.
A Tênue Linha entre Tentativa e Manipulação de Opinião Realizada
Nimmo também diferencia entre a intenção de manipular a opinião pública e a execução bem-sucedida dessa manipulação, indicando que não observou influência impactante nesta investigação. No entanto, ele destacou as possíveis contramedidas utilizando IA, que podem reduzir significativamente a duração das tarefas de análise de horas ou dias para apenas minutos.
Ben Nimmo tem uma trajetória distinta, tendo co-fundado o Laboratório de Pesquisa Forense Digital com o Conselho do Atlântico e conduzido investigações sobre condutas organizadas de fontes tanto domésticas quanto internacionais no Meta.
Desafios e Controvérsias em Campanhas de Influência Impulsionadas por IA
A detecção e mitigação de operações de influência estrangeira que utilizam tecnologias de IA como as desenvolvidas pela OpenAI apresentam vários desafios e controvérsias:
– Distinguir entre uso legítimo e malicioso: Ferramentas de IA são amplamente acessíveis e podem ser usadas para propósitos legítimos, como tradução de idiomas, criação de conteúdo, entre outros. Distinguir entre uso benévolo e malicioso requer análises sofisticadas e frequentemente decisões subjetivas.
– Falsos positivos: Esforços para identificar operações de influência correm o risco de marcar erroneamente campanhas ou usuários legítimos, o que poderia ter implicações para a liberdade de expressão e direitos digitais.
– Preocupações com a privacidade: Investigar comportamentos online e desmantelar operações de influência pode exigir acesso a dados pessoais, levando a preocupações com a privacidade e possíveis violações.
– Resposta regulatória: A natureza evolutiva da IA significa que os reguladores muitas vezes estão correndo atrás, o que levanta a questão de como as leis e diretrizes devem ser adaptadas para lidar com o uso indevido de tais tecnologias.
Vantagens de Abordar Campanhas de Influência Impulsionadas por AI
– Segurança aprimorada: Identificar e mitigar operações de influência contribui para a postura geral de segurança cibernética das nações e protege os processos democráticos.
– Conscientização pública: Expor estas campanhas pode aumentar a conscientização pública sobre desinformação e o papel da inteligência artificial na manipulação de informações.
– Avanço tecnológico: Combater o uso indevido pode informar o desenvolvimento de sistemas de IA mais robustos e éticos.
Desvantagens de Abordar Campanhas de Influência Impulsionadas por AI
– Demanda de recursos: Investigar e combater operações de influência requer recursos significativos, desde potência computacional até analistas qualificados.
– Efeito de whack-a-mole: Assim que uma operação é desativada, outra pode surgir, levando a um ciclo contínuo de detecção e resposta.
– Preocupações com a censura: Ações tomadas para suprimir operações de influência podem levar a acusações de censura ou à supressão de discursos políticos legítimos.
Para mais informações sobre inteligência artificial e os desenvolvimentos tecnológicos, visite o site oficial da OpenAI através deste link.