Uma colaboração recente entre a Microsoft e a OpenAI tem chamado a atenção para o potencial do DALL-E, uma ferramenta de geração de imagens, em operações militares. Segundo informações do The Intercept, a Microsoft propôs o uso do DALL-E para auxiliar o Departamento de Defesa (DoD) na criação de software para operações militares. Essa revelação acontece logo após a OpenAI suspender sua proibição anterior sobre trabalhos militares, permitindo possíveis colaborações nessa área.
A apresentação da Microsoft, intitulada “Inteligência Artifical Generativa com Dados do DoD”, detalha como o DoD pode aproveitar as ferramentas de aprendizado de máquina da OpenAI, incluindo seu renomado gerador de texto ChatGPT e o criador de imagens DALL-E. Essas ferramentas podem ser aplicadas em várias tarefas, desde análise de documentos até manutenção de equipamentos, dentro de operações militares. O significativo investimento da Microsoft na OpenAI tem fomentado uma relação de trabalho próxima entre as duas empresas. No entanto, a Microsoft e a OpenAI enfrentaram ações legais por utilizar jornalismo sem permissão ou crédito.
Os materiais do documento da Microsoft foram extraídos de um seminário de treinamento de “alfabetização em IA” do Departamento de Defesa realizado em outubro de 2023. Diversas empresas de aprendizado de máquina, incluindo a Microsoft e a OpenAI, apresentaram suas ofertas e capacidades ao Pentágono neste evento.
Os arquivos publicamente acessíveis foram descobertos no site da Alethia Labs, uma consultoria sem fins lucrativos que auxilia o governo federal na aquisição de tecnologia. O jornalista Jack Poulson descobriu esses materiais como parte de sua investigação mais ampla sobre a apresentação. A Alethia Labs tem trabalhado em estreita colaboração com o Pentágono para integrar rapidamente ferramentas de inteligência artificial e tem contratos com o principal escritório de IA do Pentágono desde o ano passado.
FAQ:
– O que é um sistema de gerenciamento de batalha?
Um sistema de gerenciamento de batalha é um conjunto de software de comando e controle usado por líderes militares para obter uma visão abrangente da situação durante cenários de combate. Ele permite a coordenação de ações como fogo de artilharia, identificação de alvos para ataques aéreos e movimentos de tropas.
– Como o DALL-E pode ajudar nos sistemas de gerenciamento de batalha?
Ao utilizar o DALL-E, os computadores do Pentágono poderiam potencialmente aprimorar suas capacidades de “visão”. As imagens geradas pelo DALL-E permitiriam que os computadores “vissem” e compreendessem melhor as condições no campo de batalha. Esse aprimoramento seria de grande auxílio nas operações de identificação e destruição de alvos.
– A Microsoft já começou a utilizar o DALL-E para fins militares?
De acordo com o comunicado da Microsoft ao The Intercept, embora tenham sugerido o uso do DALL-E para treinar software de campo de batalha, nenhuma implementação ocorreu até o momento. A Microsoft ressalta que esses são casos de uso potenciais discutidos em conversas com clientes.
– A OpenAI já vendeu alguma ferramenta para o Departamento de Defesa?
A OpenAI negou envolvimento na proposta da Microsoft ao Pentágono e afirma que não vendeu ferramentas para o Departamento de Defesa. As políticas da OpenAI proíbem estritamente o uso de suas ferramentas para desenvolver armas, causar danos a outros ou destruir propriedades.
A porta-voz da OpenAI, Liz Bourgeous, reiterou que os modelos da OpenAI não foram utilizados na capacidade descrita nos materiais da apresentação. Além disso, a OpenAI não possui parcerias com agências de defesa especificamente para utilizar sua API ou o ChatGPT nesses contextos.
Considerando as políticas anteriores da OpenAI, uma aplicação militar do DALL-E teria sido proibida. A Microsoft esclarece que se o Pentágono utilizar o DALL-E ou outras ferramentas da OpenAI por meio de um contrato com a Microsoft, estariam sujeitos às políticas de uso da Microsoft. No entanto, usar a tecnologia da OpenAI para aprimorar as capacidades militares de matar e destruir marcaria uma mudança significativa para a empresa, cuja missão se concentra no desenvolvimento de inteligência artificial segura para o bem da humanidade.
Brianna Rosen, pesquisadora visitante na Escola de Governo Blavatnik da Universidade de Oxford com foco em ética tecnológica, enfatiza as considerações éticas em torno dessa tecnologia. Ela destaca que o uso das tecnologias da OpenAI pelos governos, seja para objetivos positivos ou negativos, é fundamentalmente uma escolha política.
O documento da apresentação não fornece detalhes explícitos sobre como o DALL-E poderia ser implantado nos sistemas de gerenciamento de batalha. No entanto, sua referência ao treinamento desses sistemas sugere uma possível aplicação no fornecimento de dados de treinamento sintéticos para o Pentágono. Ao expor o software militar a grandes quantidades de imagens artificiais geradas pelo DALL-E, o software pode reconhecer melhor alvos relevantes em cenários do mundo real, como posições inimigas no terreno.
Abordando as preocupações éticas, Heidy Khlaaf, uma engenheira de segurança de aprendizado de máquina que trabalhou anteriormente com a OpenAI, questiona a precisão e confiabilidade do uso do DALL-E para o treinamento de software militar. Khlaaf argumenta que as imagens geradas pelo DALL-E atualmente carecem de fidelidade às condições do mundo real, comprometendo sua eficácia para ajustar finamente os sistemas de gerenciamento de batalha.
Em conclusão, embora a Microsoft tenha proposto o uso do DALL-E da OpenAI para operações militares, nenhuma implementação ocorreu até o momento. A OpenAI nega envolvimento nessa proposta específica e enfatiza seu compromisso em evitar o uso de suas ferramentas para fins nocivos. O potencial do DALL-E em sistemas de gerenciamento de batalha ainda está por ser visto, com considerações sobre precisão, implicações éticas e a missão geral da OpenAI.
A revelação de que a Microsoft propôs o uso da ferramenta de geração de imagens da OpenAI, o DALL-E, em operações militares, tem incentivado discussões sobre as possíveis implicações e considerações éticas em torno da colaboração. Segundo informações do The Intercept, a apresentação da Microsoft ao Departamento de Defesa (DoD) detalhou como as ferramentas de aprendizagem de máquina da OpenAI, incluindo o ChatGPT e o DALL-E, poderiam ser aplicadas em tarefas dentro de operações militares, como análise de documentos e manutenção de equipamentos.
Essa colaboração acontece após a OpenAI suspender sua proibição anterior sobre trabalhos militares, permitindo parcerias potenciais nesse setor. O significativo investimento da Microsoft na OpenAI tem fomentado uma relação de trabalho próxima, embora ambas as empresas tenham enfrentado ações legais por utilizar jornalismo sem permissão ou crédito.
Os materiais da apresentação da Microsoft foram descobertos no site da Alethia Labs, uma consultoria sem fins lucrativos que trabalha com o governo federal na aquisição de tecnologia. A Alethia Labs tem colaborado de perto com o Pentágono e mantém contratos com o principal escritório de IA do Pentágono. O jornalista Jack Poulson descobriu esses materiais como parte de sua investigação.
The source of the article is from the blog bitperfect.pe