A inteligência artificial (IA) deu mais um salto à frente com a introdução de Sora, uma nova e poderosa ferramenta de IA desenvolvida pela OpenAI. Embora a ferramenta ainda não esteja disponível publicamente, ela já levantou preocupações sobre a disseminação de vídeos deepfake e suas potenciais implicações para diversas indústrias.
Sora é uma aplicação de IA que transforma prompts escritos em vídeos originais. De acordo com a OpenAI, a ferramenta tem a capacidade de criar vídeos sofisticados de 60 segundos de duração, apresentando cenas detalhadas, movimentos de câmera complexos e emoções vibrantes de vários personagens. Embora essa tecnologia tenha um enorme potencial para inovação e criatividade, especialistas alertam sobre seu uso indevido e os desafios que ela apresenta para a sociedade.
Oren Etzioni, fundador da TruMedia.org, expressa suas preocupações sobre a rápida evolução de ferramentas de IA generativa, destacando as vulnerabilidades que criam nos processos democráticos. À medida que a eleição presidencial de 2024 se aproxima, a ameaça de desinformação e vídeos deepfake se torna ainda mais significativa. Organizações como a TruMedia.org são dedicadas a combater a desinformação baseada em IA, focando na identificação de mídia manipulada.
Para lidar com os potenciais riscos associados ao Sora, a OpenAI limitou o acesso à ferramenta, permitindo apenas “red teamers”, artistas visuais, designers e cineastas para testá-la e fornecer feedback. Especialistas em segurança também irão avaliar a ferramenta para compreender seu potencial de criar desinformação e conteúdo ofensivo.
Apesar da disponibilidade restrita, especialistas acreditam que é apenas uma questão de tempo até que tecnologias similares, seja o Sora ou uma ferramenta concorrente, se tornem amplamente acessíveis. Isso levanta preocupações sobre a proliferação de deepfakes de vídeo de alta qualidade e a facilidade com que atores maliciosos podem criar conteúdo ofensivo.
O Sora não só apresenta riscos para campanhas políticas e celebridades, mas também representa uma ameaça para profissionais em indústrias de criação de conteúdo. Dubladores, designers de videogame, cineastas e profissionais de marketing podem ver seus papéis impactados, já que modelos de IA multimodais como Sora oferecem economias de custo e a capacidade de gerar conteúdo sem depender de atores humanos.
Além disso, o Sora poderia até capacitar cidadãos comuns a desenvolver sua própria mídia com base em prompts, levando ao surgimento de conteúdos no estilo “escolha sua própria aventura”. Grandes players como a Netflix poderiam adotar essa tecnologia e permitir que os usuários finais desenvolvam conteúdo personalizado.
À medida que a tecnologia avança, a responsabilidade recai sobre organizações e instituições para desenvolver suas próprias ferramentas baseadas em IA para combater os potenciais perigos dos vídeos deepfake. Proteger os consumidores e se proteger contra ameaças torna-se crucial, especialmente para indústrias como a bancária que dependem de medidas de segurança de autenticação em vídeo.
Embora o Sora ofereça possibilidades emocionantes para inovação, ele também levanta importantes considerações éticas e de segurança. Enquanto navegamos nessa nova fronteira, é crucial estabelecer diretrizes e regulamentos adequados que equilibrem as vantagens da IA com os riscos potenciais que ela apresenta.
The source of the article is from the blog exofeed.nl