A Inteligência Artificial se Infiltra na Propaganda Extremista
Após um ataque terrorista em março em uma casa de shows perto de Moscou, o Estado Islâmico celebrou o massacre de mais de 130 pessoas através de um vídeo divulgado online. Este clipe, com pouco mais de noventa segundos, imitou o formato de propagandas anteriores, mas com um toque tecnológico significativo: ele apresentava uma repórter totalmente criada usando inteligência artificial. Com aparência fotorrealista e voz, a repórter de IA detalhou o ataque, enquadrado não como um ato de terrorismo, mas como uma consequência do conflito entre o Estado Islâmico e aqueles contra o Islã.
O Grupo de Inteligência SITE revelou que esse vídeo faz parte da iniciativa “News Harvest” projetada para disseminar atos terroristas globalmente. Desde o ataque na Rússia, o programa tem apresentado atualizações semanais. A IA se tornou uma ferramenta sem precedentes para o Estado Islâmico, auxiliando não apenas na disseminação de notícias, mas também na criação de cartazes e materiais de propaganda adicionais. Rita Katz, a co-fundadora do Grupo de Inteligência SITE, expressou que a IA é uma ferramenta incrível para propagandas eficientes e generalizadas de terrorismo.
Em seu ápice, o Estado Islâmico ostentava uma equipe audiovisual considerável, produzindo vídeos de alta qualidade em comparação com filmes de Hollywood. Por exemplo, o assassinato do piloto Muath al-Kasasbeh em fevereiro de 2015 foi retratado como um anúncio de morte, provocando Karima Bennoune, autora sobre os aspectos não ditos da luta contra o fundamentalismo muçulmano, a definir os vídeos como “pornografia da crueldade”.
Rapidez e Sigilo: IA Redefine Conteúdo Terrorista
A IA simplifica significativamente o trabalho de grupos extremistas, não apenas na velocidade com que podem espalhar informações online, mas também na geração de conteúdo que atenda aos padrões de notícias convencionais, tornando extremamente difícil para os administradores de redes sociais distinguir da reportagem legítima.
Discussões em grupos privados de simpatizantes do Estado Islâmico revelam seu reconhecimento da IA como uma ferramenta poderosa. Um usuário refletiu sobre o potencial de imitar veículos de mídia mainstream para uma apresentação mais envolvente em vez da leitura tradicional de texto e imagens estáticas.
O rápido avanço da IA promete ainda maior simplicidade para a manipulação de mídia, considerada tão crucial quanto o combate em terra por alguns apoiadores devido ao seu enorme impacto na percepção pública.
Steven Stalinsky, Diretor Executivo do Instituto de Pesquisa de Mídia do Oriente Médio, esclareceu ao The Washington Post que, embora a atual produção não faça oficialmente parte da ala de mídia do Estado Islâmico, é provável que tenha endosso da liderança máxima. Anúncios de recrutamento estão até solicitando jovens “mujahidin da mídia” habilidosos em IA e software de edição de fotos e vídeos, afirmando que “a mídia espera seu ataque”.
A Al-Qaeda também tem mostrado interesse em ferramentas de propaganda sofisticadas, organizando workshops online de IA e fornecendo um documento de cinquenta páginas com instruções para criar imagens e textos usando chatbots com inteligência artificial.
Controvérsia sobre Utilização de IA Entre Seguidores
Apesar dos benefícios claros, nem todos os seguidores do Estado Islâmico estão de acordo com o uso de IA. Alguns o criticam em diversas plataformas online por violar a lei islâmica que proíbe a representação de figuras humanas. O criador de um vídeo da série “News Harvest” enfrentou ameaças de punição no apósvida por essa transgressão. No entanto, ele procurou aconselhamento religioso resultando em uma solução alternativa; ele modificou seus vídeos desfocando os rostos para estar em conformidade com a doutrina religiosa.
O uso da tecnologia de IA por grupos extremistas, como o Estado Islâmico (EI), para fins de propaganda introduziu novas dinâmicas na produção e distribuição de propaganda. Abaixo estão alguns fatos adicionais, perguntas-chave, desafios e controvérsias associados ao tema:
Perguntas-Chave:
1. Como a tecnologia de IA mudou o cenário da propaganda terrorista?
2. Quais são as implicações éticas do uso de conteúdo gerado por IA para fins extremistas?
3. Como os esforços de contra-terrorismo podem se adaptar para lidar com o uso de IA na propaganda terrorista?
4. Qual é o papel das plataformas de mídia social na moderação de conteúdo extremista gerado por IA?
Desafios e Controvérsias Principais:
Um dos principais desafios é a disseminação rápida de conteúdo extremista. A tecnologia de IA tornou mais fácil para organizações terroristas produzirem propaganda em uma taxa mais rápida e com qualidade que pode imitar fontes de notícias legítimas. Isso complica os esforços das plataformas de mídia social para identificar e remover conteúdo extremista.
Outra controvérsia gira em torno da adesão à doutrina religiosa dentro dos próprios grupos extremistas. O uso de imagens humanas é considerado uma violação da lei islâmica por alguns seguidores, o que levou a desentendimentos internos e desafios na implementação de figuras humanas geradas por IA em propaganda.
Vantagens:
Para grupos extremistas:
– Aumento da eficiência na disseminação de mensagens e ideologia.
– Melhoria da capacidade de alcançar um público global com conteúdo convincente e de alta qualidade.
– Capacidade de permanecer anônimo e reduzir o risco para membros humanos que de outra forma teriam aparecido nos vídeos.
Desvantagens:
Para a sociedade e esforços de contra-terrorismo:
– A propaganda gerada por IA pode ser difícil de detectar e moderar devido à sua aparência realista.
– Existe o risco de que esse tipo de conteúdo possa radicalizar indivíduos e encorajar atos de terrorismo.
– Combater esse tipo de propaganda de alta tecnologia exige ferramentas e estratégias sofisticadas, potencialmente aumentando o custo e a complexidade das operações de contra-terrorismo.
Para aqueles interessados em saber mais sobre os impactos da IA na sociedade em geral, você pode visitar os sites de instituições de pesquisa e organizações que se concentram em ética e políticas de IA, como:
– AI Global
– Future of Life Institute
Por favor, observe que esses links devem servir como pontos de partida para aprender mais sobre IA e suas implicações sociais e não estão diretamente relacionados ao uso extremista de IA como tal.