A acelerada integração da inteligência artificial (IA) em vários setores concedeu aos atores maliciosos acesso a ferramentas avançadas para executar crimes cibernéticos, conforme detalhado pelo líder em cibersegurança Kaspersky Research. Um desenvolvimento alarmante dentro dessa corrida armamentista digital é o surgimento dos ‘deepfakes’, imagens, sons e vídeos construídos por IA, indistinguíveis de conteúdo autêntico. A Kaspersky destacou a necessidade urgente de vigilância pública em relação aos deepfakes, especialmente à medida que seu potencial para enganar se torna mais substancial.
A tecnologia deepfake manipula a IA para forjar uma imitação digital convincente, permitindo que indivíduos pareçam estar dizendo ou fazendo coisas que realmente não fizeram. Com a evolução dessa tecnologia, as descobertas da Kaspersky mostram que a geração de deepfakes até mesmo penetrou nos cantos sombrios da dark web, onde são negociados e usados para atividades nefastas como fraude e roubo de dados.
Em termos de custo, os clipes de vídeos artificiais podem ser surpreendentemente econômicos, custando cerca de US $300 por minuto, tornando-os uma arma relativamente barata mas potente para atividades criminosas. Além disso, apesar do aumento da conscientização, muitas pessoas acham difícil diferenciar entre imagens reais e geradas por IA. A pesquisa da Kaspersky reflete essa lacuna de discernimento, com uma disparidade significativa entre aqueles que acreditam que conseguem identificar deepfakes e aqueles que realmente conseguem, uma discrepância que expõe as organizações a riscos de segurança ampliados.
A tecnologia deepfake não é apenas uma preocupação corporativa; os indivíduos também estão em risco. Com ferramentas capazes de imitar a voz em tempo real se aproximando da realidade, os riscos associados à desinformação e fraudes aumentam. Essa ameaça crescente não está limitada por geografia, com o Relatório de Riscos Globais de 2024 nomeando a desinformação impulsionada pela IA como um dos principais riscos para regiões como Índia e Paquistão.
O cenário político não é imune, com casos anteriores no Paquistão em que figuras políticas, incluindo o ex-primeiro-ministro Imran Khan, utilizaram essas tecnologias para campanhas e influenciar a opinião pública. Com frameworks regulatórios inadequados para conter o uso indevido da IA, a luta contra a desinformação recai tanto sobre os ombros da lei quanto sobre a conscientização coletiva da comunidade digital.