A Apple tomou medidas decisivas contra aplicativos envolvidos na geração de imagens nuas não consensuais, após um relatório investigativo da 404 Media. A gigante da tecnologia removeu três aplicativos identificados de sua App Store que estavam implicados no uso indevido. Apesar de tomar essa medida necessária, informações da investigação apontaram que a Apple teve alguns atrasos na resposta até que os links diretos dos aplicativos violadores na App Store fossem fornecidos a eles.
Esses aplicativos estavam sendo promovidos por meio de táticas ousadas de publicidade em plataformas sociais como o Instagram. Os anúncios estavam atraindo usuários com frases prometendo a capacidade de “despir qualquer garota de graça” e “remover qualquer roupa”.
As plataformas de redes sociais tiveram um aumento significativo na distribuição de pornografia utilizando a tecnologia deepfake, causando que adolescentes e figuras públicas incautas se tornem vítimas. Entre os afetados estão indivíduos de alto perfil como a cantora Taylor Swift e a política Alexandria Ocasio-Cortez. A Lei de Desafio Contra Imagens Explícitas Não-consensuais (DEFIANCE, na sigla em inglês) foi introduzida pela deputada Ocasio-Cortez na Câmara dos Deputados para estabelecer danos civis federais para vítimas de deepfakes. Um projeto de lei semelhante também foi proposto no Senado, mas ainda não avançou.
Não é apenas a App Store que está lidando com o problema da pornografia deepfake. Os deepfakes de Taylor Swift foram espalhados em fóruns não especificados, e o Conselho de Supervisão da Meta incumbiu a empresa de reconciliar sua política de aplicação inconsistente em imagens explícitas manipuladas por IA.
No Reino Unido, o Ministério da Justiça transmitiu planos para proibir a criação de deepfakes sexualmente explícitos, semelhantes aos que poderiam ter sido produzidos pelos aplicativos removidos, fortalecendo ainda mais o posicionamento global contra a exploração digital.
Perguntas e Respostas Importantes:
– O que motiva a Apple a agir contra esses tipos de aplicativos?
A Apple tem um compromisso com a privacidade e o uso ético da tecnologia. A empresa visa manter um ambiente seguro e respeitoso em sua App Store. Ao eliminar aplicativos que geram imagens nuas não consensuais, a Apple está aplicando suas políticas e protegendo os usuários contra a exploração e o assédio.
– Como as plataformas de redes sociais podem evitar a disseminação de pornografia deepfake?
As plataformas de redes sociais podem aprimorar suas estratégias de moderação de conteúdo, utilizar ferramentas de detecção mais sofisticadas para identificar deepfakes, atualizar suas políticas para abordar explicitamente os deepfakes e colaborar com as autoridades policiais e outras organizações dedicadas a combater a exploração digital.
– Qual é o status legal da criação e compartilhamento de conteúdo deepfake não consensual?
O status legal do conteúdo deepfake varia de acordo com o país. Em alguns lugares, leis estão sendo propostas ou promulgadas para criminalizar a criação e distribuição de deepfakes explícitos não consensuais, enquanto em outros, o quadro legal ainda está se adaptando à tecnologia.
Principais Desafios e Controvérsias:
– Tecnologia superando a legislação: Um dos principais desafios é o ritmo acelerado com que a tecnologia evolui, muitas vezes ultrapassando a legislação. Isso torna difícil regular e processar efetivamente casos envolvendo a tecnologia deepfake e conteúdos não consensuais.
– Deteção e aplicação: Detectar efetivamente conteúdos deepfake e fazer cumprir as políticas contra eles é desafiador devido à sofisticação da tecnologia e ao volume de conteúdo compartilhado online.
Vantagens e Desvantagens:
– Vantagens: Removendo esses aplicativos, protege-se a privacidade e a dignidade dos usuários e pode desencorajar a criação e distribuição de conteúdos prejudiciais. Isso também pode contribuir para um ambiente online mais seguro e ajudar a manter padrões éticos no uso da tecnologia.
– Desvantagens: Pode haver potenciais desvantagens em termos de excesso e possíveis impactos em aplicativos legítimos que utilizam tecnologias semelhantes para fins éticos, como CGI em filmes ou entretenimento adulto no qual os participantes consentiram.
Links Relacionados:
– Apple
– Instagram
– Meta (Facebook)
– Ministério da Justiça do Reino Unido