Sora, a mais recente ferramenta de texto para vídeo desenvolvida pela OpenAI, está causando impacto no campo da IA generativa. Enquanto a tecnologia por trás do Sora é inegavelmente inovadora, especialistas expressaram preocupações sobre o potencial de criar vídeos deepfake que perpetuem estereótipos raciais e de gênero.
Diferentemente de seu antecessor ChatGPT, o Sora recebe instruções de texto e as transforma em vídeos de um minuto de duração. A OpenAI descreve o Sora como tendo a capacidade de gerar cenas complexas, incorporando múltiplos personagens, movimentos específicos e detalhes precisos do sujeito e do cenário. O alto nível de realismo da ferramenta é alcançado por meio de uma combinação de duas abordagens de IA. A primeira é o uso de modelos de difusão, como DALLE-E, que convertem pixels de imagem randomizados em visuais coerentes. A segunda abordagem é a ‘arquitetura transformer’, utilizada para contextualizar e juntar dados sequenciais.
Embora o acesso ao Sora esteja atualmente limitado a um grupo seleto de artistas visuais, cineastas e designers, há indicações de que uma lista de espera será criada para acesso mais amplo em um futuro próximo. Os indivíduos concedidos acesso, designados como membros da equipe vermelha, possuem expertise em áreas como desinformação, conteúdo odioso e tendências para entender melhor os riscos associados à ferramenta.
A OpenAI reconhece os potenciais riscos apresentados pelo Sora e garante aos usuários que estão tomando medidas para combater conteúdo enganoso. Eles planejam desenvolver um classificador de detecção capaz de reconhecer vídeos criados pelo Sora e adaptar procedimentos de segurança existentes de ferramentas como DALLE3. A empresa afirma ter implementado classificadores de imagem robustos para revisar cada quadro de vídeos gerados antes de conceder acesso.
Enquanto a OpenAI visa compartilhar o progresso de suas pesquisas e obter feedback de parceiros externos, a disponibilidade da ferramenta para o público permanece incerta. Preocupações sobre a criação de vídeos deepfake que reforçam estereótipos negativos continuam sendo levantadas. A desinformação alimentada por conteúdos gerados por IA continua sendo uma preocupação significativa em diversas indústrias.
O Sora representa uma mudança de paradigma no campo da IA generativa. Conforme sua acessibilidade aumenta, a OpenAI deve priorizar a mitigação dos riscos associados ao potencial uso indevido dessa poderosa tecnologia.
**Seção de Perguntas Frequentes:**
1. O que é Sora?
– Sora é uma ferramenta de texto para vídeo desenvolvida pela OpenAI que pode transformar instruções de texto em vídeos de um minuto de duração.
2. Como o Sora alcança um alto nível de realismo nos vídeos gerados?
– O Sora combina duas abordagens de IA: modelos de difusão como o DALLE-E, que convertem pixels de imagem randomizados em visuais coerentes, e a ‘arquitetura transformer’, que contextualiza e junta dados sequenciais.
3. Quem tem atualmente acesso ao Sora?
– O acesso ao Sora está atualmente limitado a um grupo seleto de artistas visuais, cineastas e designers designados como membros da equipe vermelha.
4. O acesso ao Sora será expandido no futuro?
– Há indicações de que a OpenAI pode criar uma lista de espera para acesso mais amplo ao Sora em um futuro próximo.
5. Que medidas a OpenAI está tomando para combater conteúdo enganoso gerado pelo Sora?
– A OpenAI planeja desenvolver um classificador de detecção especificamente projetado para reconhecer vídeos criados pelo Sora. Eles também adaptarão procedimentos de segurança existentes de ferramentas como DALLE3 e implementarão classificadores de imagem robustos para revisar cada quadro de vídeos gerados.
6. A OpenAI está ciente dos potenciais riscos associados ao Sora?
– Sim, a OpenAI reconhece os potenciais riscos apresentados pelo Sora e está trabalhando ativamente para mitigá-los. Eles buscam a expertise de indivíduos com conhecimento em áreas como desinformação, conteúdo odioso e tendências para entender e abordar os riscos.
**Definições:**
– IA Generativa: Refere-se a sistemas ou modelos de IA capazes de criar novos conteúdos, como texto, imagens ou vídeos, com base em entradas ou instruções fornecidas.
– Vídeos deepfake: Vídeos criados ou manipulados usando IA para fazer parecer que alguém disse ou fez algo que na verdade não disse ou fez, geralmente trocando rostos ou alterando vozes.
**Link Relacionado:**
[OpenAI](https://www.openai.com/)
[incorporar]https://www.youtube.com/embed/nYTRFKGR9wQ[/incorporar]
The source of the article is from the blog regiozottegem.be