No campo da inteligência artificial, os computadores têm sido capazes de criar sua própria “arte” por meio de modelos de difusão, refinando gradualmente um ponto de partida ruidoso para gerar imagens ou vídeos claros. No entanto, esse processo sempre foi demorado, exigindo inúmeras iterações para aperfeiçoar o resultado final. Isso foi verdade até agora.
Pesquisadores do Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) desenvolveram um framework inovador que revoluciona a forma como os modelos de difusão funcionam. Ao simplificar o processo multinível em um único passo, sua nova abordagem, conhecida como destilação de correspondência de distribuição (DMD), reduz significativamente o tempo computacional, mantendo a qualidade do conteúdo visual gerado.
Ao contrário dos métodos anteriores, que se baseavam no refinamento iterativo, o framework DMD utiliza um modelo professor-aluno, onde um novo modelo de computador aprende a imitar o comportamento de modelos originais mais complexos. Essa técnica garante uma rápida geração de imagens sem comprometer a qualidade. Na verdade, o framework DMD supera modelos de difusão anteriores, como Stable Diffusion e DALLE-3, em termos de velocidade, gerando imagens até 30 vezes mais rápido.
A chave para o sucesso do DMD está em sua abordagem de dois componentes. Primeiramente, usa uma perda de regressão para mapear e estabilizar o processo de treinamento. Em seguida, emprega uma perda de correspondência de distribuição para garantir que as imagens geradas correspondam a frequências de ocorrência do mundo real. Ao aproveitar o conhecimento de dois modelos de difusão, o DMD destila a complexidade dos modelos originais em um mais simples e rápido, evitando problemas comuns como instabilidade e colapso de modo.
Para treinar o novo modelo, os pesquisadores utilizaram redes previamente treinadas e ajustaram seus parâmetros com base nos modelos originais. Isso permitiu uma convergência rápida e a capacidade de produzir imagens de alta qualidade com a mesma base arquitetônica. O framework DMD também mostrou desempenho consistente em diversas benchmarks, rivalizando com os resultados de modelos mais complexos em termos de qualidade na geração de imagens.
Embora o DMD seja uma descoberta significativa, ainda há espaço para melhorias. A qualidade das imagens geradas depende das capacidades do modelo professor usado durante o processo de destilação. Por exemplo, a renderização de texto detalhado e rostos pequenos ainda pode representar desafios. No entanto, com avanços nos modelos professores, essas limitações podem ser superadas, aprimorando ainda mais as imagens geradas.
As implicações do modelo de difusão de um único passo são vastas. As ferramentas de design podem ser aprimoradas, permitindo uma criação de conteúdo mais rápida. Indústrias como a descoberta de medicamentos e modelagem 3D podem se beneficiar de processos mais rápidos e eficientes. O framework DMD abre possibilidades para edição visual em tempo real que combina a versatilidade e a alta qualidade visual dos modelos de difusão com o desempenho das Redes Adversariais Generativas (GANs).
Com o trabalho da equipe de pesquisa sendo apresentado na Conferência sobre Visão Computacional e Reconhecimento de Padrões em junho, fica claro que o futuro da geração de imagens está evoluindo rapidamente. A combinação de velocidade, qualidade e eficiência oferecida pelo framework DMD marca um marco significativo no campo da inteligência artificial.
