A tecnologia Deepfake tem se tornado uma preocupação crescente à medida que anúncios gerados pela inteligência artificial, fazendo-se passar por celebridades e influenciadores, continuam a circular online. O recente caso envolvendo um falso anúncio da Taylor Swift promovendo um conjunto de panelas destacou ainda mais a necessidade de vigilância para distinguir entre endossos genuínos e fraudulentos.
O anúncio, que apresentava a semelhança e a voz de Taylor Swift, afirmava que 3.000 conjuntos de panelas da Le Creuset estavam sendo distribuídos devido a um erro de embalagem. No entanto, a Le Creuset esclareceu posteriormente que não tem ligação com o anúncio e instou os consumidores a verificar promoções através de suas contas oficiais nas redes sociais e site.
Esse incidente é parte de uma tendência maior de postagens geradas pela IA que tentam enganar os espectadores usando o respaldo de pessoas conhecidas. A equipe jurídica de Scarlett Johansson, por exemplo, recentemente exigiu que um aplicativo chamado Lisa AI parasse de usar uma versão gerada pela IA dela em um anúncio online. Da mesma forma, o astro do YouTube, MrBeast, levantou preocupações sobre um vídeo deepfake viral que usava seu rosto e voz para promover um sorteio de iPhone 15.
Embora a tecnologia Deepfake exista há vários anos, os avanços na IA generativa e sua crescente popularidade têm despertado preocupações renovadas sobre a replicação não autorizada das imagens das pessoas. Isso levanta preocupações sobre possíveis golpes direcionados aos espectadores visando ganhos financeiros. De fato, a NBC News descobriu mais de 50 vídeos em várias plataformas que usavam imagens e áudios digitalmente manipulados de figuras públicas na tentativa de enganar os espectadores.
A acessibilidade da tecnologia Deepfake também levanta preocupações sobre seu impacto potencial em eleições e privacidade. Especialistas especulam que vídeos manipulados por IA poderiam ser usados em campanhas de desinformação política, enquanto o mercado de pornografia Deepfake continua a prosperar ao produzir conteúdo explícito com as semelhanças de pessoas reais sem seu consentimento.
Conforme a tecnologia Deepfake se torna mais sofisticada e acessível, é crucial para os consumidores permanecerem cautelosos e verificar a autenticidade de endossos e anúncios. Além disso, há uma urgente necessidade de regulamentação e conscientização para combater os danos potenciais causados por esses anúncios enganosos e fraudulentos de Deepfake.
The source of the article is from the blog coletivometranca.com.br