A inteligência artificial ganha espaço na propaganda extremista
Após um ataque terrorista em março em uma sala de concertos perto de Moscou, o Estado Islâmico celebrou o massacre de mais de 130 pessoas através de um vídeo divulgado online. Este clipe, com pouco mais de noventa segundos, emulou o formato de propagandas anteriores, mas com um toque tecnológico significativo: apresentava uma repórter inteiramente criada usando inteligência artificial. Com aparência fotorrealista e voz, a repórter de IA detalhou o ataque, enquadrando-o não como um ato de terrorismo, mas como uma consequência do conflito entre o Estado Islâmico e aqueles contra o Islã.
O SITE Intelligence Group revelou que este vídeo faz parte da iniciativa “News Harvest” projetada para disseminar atos terroristas globalmente. Desde o ataque na Rússia, o programa tem apresentado atualizações semanais. A IA tornou-se uma ferramenta sem igual para o Estado Islâmico, ajudando não apenas na disseminação de notícias, mas também na criação de pôsteres e materiais de propaganda adicionais. Rita Katz, co-fundadora do SITE Intelligence Group, expressou que a IA é uma ferramenta incrível para propaganda terrorista eficiente e abrangente.
Em seu auge, o Estado Islâmico contava com uma equipe audiovisual considerável, produzindo vídeos de alta qualidade comparáveis aos filmes de Hollywood. Por exemplo, o assassinato do piloto Muath al-Kasasbeh em fevereiro de 2015 foi retratado como um anúncio de morte, provocando Karima Bennoune, autora sobre os aspectos não falados da luta contra o fundamentalismo muçulmano, a definir os vídeos como “pornografia da grosseria”.
Velocidade e Sigilo: IA redefine o conteúdo terrorista
A IA simplifica significativamente o trabalho de grupos extremistas, não apenas na velocidade com que podem espalhar informações online, mas também na geração de conteúdo que atende aos padrões de notícias convencionais, tornando extremamente difícil para os administradores de mídias sociais distinguirem da reportagem legítima.
Discussões dentro de grupos simpatizantes privados do Estado Islâmico revelam seu reconhecimento da IA como uma ferramenta potente. Um usuário refletiu sobre o potencial de emular veículos de mídia mainstream para uma apresentação mais envolvente em vez de leitura de texto tradicional e imagens estáticas.
O rápido avanço da IA promete ainda mais simplicidade para a manipulação de mídia, considerada tão crucial quanto o combate no solo por alguns apoiadores devido ao seu imenso impacto na percepção pública.
Steven Stalinsky, Diretor Executivo do Instituto de Pesquisa de Mídia do Oriente Médio, esclareceu ao The Washington Post que, embora a produção atual não faça oficialmente parte da ala de mídia do Estado Islâmico, é provável que tenha o endosso da liderança máxima. Anúncios de recrutamento estão até solicitando jovens “mídia mujahideen” habilidosos em IA e em software de edição de fotos e vídeos, afirmando que “a mídia aguarda seu ataque”.
Al-Qaeda também demonstrou interesse em ferramentas de propaganda sofisticadas, organizando workshops de IA online e fornecendo um documento de cinquenta páginas com instruções para criar imagens e textos usando chatbots com inteligência artificial.
Controvérsias sobre a Utilização de IA Entre Seguidores
Apesar dos benefícios claros, nem todos os adeptos do Estado Islâmico concordam com o uso de IA. Alguns a criticam em várias plataformas online por violar a lei islâmica que proíbe a representação de figuras humanas. O criador de um vídeo da série “News Harvest” enfrentou ameaças de punição na vida após a morte por essa transgressão. No entanto, ele buscou orientação religiosa resultando em uma solução alternativa; ele modificou seus vídeos desfocando os rostos para se alinhar com a doutrina religiosa.
O uso da tecnologia de IA por grupos extremistas como o Estado Islâmico (EI) para fins de propaganda introduziu novas dinâmicas na forma como a propaganda é produzida e distribuída. Aqui estão alguns fatos adicionais, questões-chave, desafios e controvérsias associadas ao tópico:
Questões-Chave:
1. Como a tecnologia de IA mudou o cenário da propaganda terrorista?
2. Quais são as implicações éticas do conteúdo gerado por IA sendo usado para fins extremistas?
3. Como os esforços de contra-terrorismo podem se adaptar para lidar com o uso de IA na propaganda terrorista?
4. Qual papel as plataformas de mídia social desempenham na moderação de conteúdo extremista gerado por IA?
Desafios-Chave e Controvérsias:
Um dos principais desafios é a rápida disseminação de conteúdo extremista. A tecnologia de IA tornou mais fácil para organizações terroristas produzir propaganda em uma taxa mais rápida e com qualidade que pode imitar fontes de notícias legítimas. Isso complica os esforços das plataformas de redes sociais para identificar e remover conteúdo extremista.
Outra controvérsia envolve a adesão à doutrina religiosa dentro dos próprios grupos extremistas. O uso de imagens humanas é considerado uma violação da lei islâmica por alguns seguidores, o que tem levado a desacordos internos e desafios na implantação de figuras humanas geradas por IA na propaganda.
Vantagens:
Para grupos extremistas:
– Aumento da eficiência na disseminação de mensagens e ideologia.
– Melhoria na capacidade de alcançar um público global com conteúdo convincente e de alta qualidade.
– Capacidade de permanecer anônimo e reduzir o risco para membros humanos que de outra forma teriam aparecido nos vídeos.
Desvantagens:
Para a sociedade e esforços de contra-terrorismo:
– A propaganda gerada por IA pode ser difícil de detectar e moderar devido à sua aparência realista.
– Existe o risco desse conteúdo radicalizar indivíduos e incentivar atos de terrorismo.
– Combater esse tipo de propaganda de alta tecnologia requer ferramentas e estratégias sofisticadas, potencialmente aumentando o custo e a complexidade das operações de contra-terrorismo.
Para aqueles interessados em aprender mais sobre os impactos da IA na sociedade em geral, você pode visitar os sites de instituições de pesquisa e organizações que se concentram em ética e políticas de IA, tais como:
– AI Global
– Future of Life Institute
Por favor, note que esses links devem servir como pontos de partida para aprender mais sobre a IA e suas implicações sociais e não estão diretamente relacionados ao uso extremista da IA como tal.