A Inteligência Artificial se Estabelece na Propaganda Extremista
Após um ataque terrorista a uma sala de concertos perto de Moscou em março, o Estado Islâmico celebrou o massacre de mais de 130 pessoas por meio de um vídeo divulgado online. Este clipe, com pouco mais de noventa segundos, imitava o formato de propagandas anteriores, mas com uma reviravolta tecnológica significativa: apresentava uma repórter totalmente criada usando inteligência artificial. Com uma aparência fotorrealista e voz, a repórter de IA detalhou o ataque, enquadrado não como um ato de terrorismo, mas como uma consequência do conflito entre o Estado Islâmico e aqueles contra o Islã.
O SITE Intelligence Group revelou que este vídeo é parte da iniciativa “News Harvest” projetada para disseminar atos terroristas globalmente. Desde o ataque na Rússia, o programa tem apresentado atualizações semanais. A IA se tornou uma ferramenta sem precedentes para o Estado Islâmico, auxiliando não apenas na disseminação de notícias, mas também na criação de pôsteres e materiais de propaganda adicionais. Rita Katz, co-fundadora do SITE Intelligence Group, expressou que a IA é uma ferramenta incrível para a eficaz e ampla propaganda do terrorismo.
Em seu auge, o Estado Islâmico ostentava uma equipe audiovisual considerável, produzindo vídeos de alta qualidade em comparação com filmes de Hollywood. Por exemplo, o assassinato do piloto Muath al-Kasasbeh em fevereiro de 2015 foi retratado como um anúncio de morte, provocando Karima Bennoune, autora sobre facetas não mencionadas da luta contra o fundamentalismo muçulmano, a definir os vídeos como “pornografia da rudeza”.
Velocidade e Sigilo: IA Redefine Conteúdos Terroristas
A IA simplifica significativamente o trabalho de grupos extremistas, não apenas na velocidade com que podem espalhar informações online, mas também na geração de conteúdo que atende aos padrões de notícias convencionais, tornando extremamente difícil para administradores de mídias sociais distinguir de reportagens legítimas.
Discussões dentro de grupos privados de simpatizantes do Estado Islâmico revelam seu reconhecimento da IA como uma ferramenta poderosa. Um usuário refletiu sobre o potencial de imitar os meios de comunicação convencionais para uma apresentação mais envolvente em vez da leitura de texto tradicional e imagens estáticas.
O avanço rápido da IA promete ainda maior simplicidade para a manipulação da mídia, considerada tão crucial quanto o combate no terreno por alguns apoiadores devido ao seu imenso impacto na percepção pública.
Steven Stalinsky, Diretor Executivo do Instituto de Pesquisa de Mídia do Oriente Médio, esclareceu ao The Washington Post que, embora a produção atual não faça oficialmente parte da ala de mídia do Estado Islâmico, é provável que tenha endosso da liderança principal. Anúncios de recrutamento até solicitam jovens “mídia mujahideen” habilidosos em IA e software de edição de fotos e vídeos, afirmando “a mídia aguarda seu ataque”.
A Al-Qaeda também mostrou interesse em ferramentas sofisticadas de propaganda, organizando workshops online de IA e fornecendo um documento de cinquenta páginas com instruções para criação de imagens e textos usando chatbots com inteligência artificial.
Controvérsia na Utilização da IA Entre os Seguidores
Apesar dos benefícios claros, nem todos os seguidores do Estado Islâmico apoiam o uso da IA. Alguns a criticam em várias plataformas online por violar a lei islâmica que proíbe a representação de figuras humanas. O criador de um vídeo da série “News Harvest” enfrentou ameaças de punição na vida após a morte por essa transgressão. No entanto, ele buscou orientação religiosa resultando em um contorno; ele modificou seus vídeos borrando os rostos para se alinhar com a doutrina religiosa.
O uso da tecnologia de IA por grupos extremistas como o Estado Islâmico (EI) para fins de propaganda introduziu novas dinâmicas na produção e distribuição de propaganda. Aqui estão alguns fatos adicionais, perguntas-chave, desafios e controvérsias associadas ao tópico:
Perguntas-chave:
1. Como a tecnologia de IA mudou o cenário da propaganda terrorista?
2. Quais são as implicações éticas do conteúdo gerado por IA sendo usado para fins extremistas?
3. Como os esforços de contra-terrorismo podem se adaptar para lidar com o uso da IA na propaganda terrorista?
4. Qual é o papel das plataformas de mídia social na moderação de conteúdo extremista gerado por IA?
Desafios e Controvérsias-Chave:
Um dos desafios principais é a rápida disseminação de conteúdo extremista. A tecnologia de IA tornou mais fácil para organizações terroristas produzir propaganda a uma taxa mais rápida e com qualidade que pode imitar fontes de notícias legítimas. Isso complica os esforços das plataformas de mídia social para identificar e remover conteúdo extremista.
Outra controvérsia gira em torno da aderência à doutrina religiosa dentro dos próprios grupos extremistas. O uso de imagens humanas é considerado uma violação da lei islâmica por alguns seguidores, o que levou a discordâncias internas e desafios na implementação de figuras humanas geradas por IA na propaganda.
Vantagens:
Para grupos extremistas:
– Aumento da eficiência na disseminação de mensagens e ideologia.
– Habilidade aprimorada para alcançar uma audiência global com conteúdo convincente e de alta qualidade.
– Capacidade de permanecer anônimo e reduzir o risco para membros humanos que de outra forma teriam aparecido nos vídeos.
Desvantagens:
Para a sociedade e esforços de contra-terrorismo:
– A propaganda gerada por IA pode ser difícil de detectar e moderar devido à sua aparência realista.
– Há um risco de esse conteúdo radicalizar indivíduos e encorajar atos de terrorismo.
– Combater esse tipo de propaganda de alta tecnologia requer ferramentas e estratégias sofisticadas, potencialmente aumentando o custo e a complexidade das operações de contra-terrorismo.
Para aqueles interessados em saber mais sobre os impactos da IA na sociedade em geral, você pode visitar os sites de instituições de pesquisa e organizações focadas em ética e política de IA, como:
– AI Global
– Instituto Futuro da Vida
Por favor, note que esses links devem ser pontos de partida para aprender mais sobre a IA e suas implicações sociais e não estão diretamente relacionados ao uso de IA por extremistas como tal.