Secondo quanto riportato da The Intercept, Microsoft ha recentemente proposto l’utilizzo del tool di generazione di immagini di OpenAI, DALL-E, per aiutare il Dipartimento della Difesa (DoD) nella creazione di software per operazioni militari. Questa rivelazione arriva poco dopo che OpenAI ha revocato la sua precedente limitazione al lavoro militare, consentendo potenziali collaborazioni in questo settore.
La presentazione di Microsoft, intitolata “Intelligenza generativa con i dati del DoD”, illustra come il DoD possa sfruttare gli strumenti di machine learning di OpenAI, tra cui il famoso generatore di testi ChatGPT e il creatore di immagini DALL-E. Questi strumenti possono essere applicati a varie attività, che vanno dall’analisi di documenti alla manutenzione di macchine, all’interno delle operazioni militari. L’importante investimento di Microsoft in OpenAI ha incoraggiato una stretta collaborazione tra le due aziende. Tuttavia, Microsoft e OpenAI hanno affrontato azioni legali per aver utilizzato articoli giornalistici senza autorizzazione o riconoscimento.
I materiali dal documento di Microsoft sono stati tratti da un seminario di formazione sulla “alfabetizzazione dell’IA” tenuto dal Dipartimento della Difesa nell’ottobre 2023. Diverse aziende di machine learning, tra cui Microsoft e OpenAI, hanno presentato le proprie offerte e capacità al Pentagono in questo evento.
I file accessibili pubblicamente sono stati scoperti sul sito web di Alethia Labs, un’organizzazione non profit che assiste il governo federale nell’acquisizione di tecnologie. Il giornalista Jack Poulson ha scoperto questi materiali come parte della sua più ampia indagine sulla presentazione. Alethia Labs sta collaborando strettamente con il Pentagono per integrare rapidamente strumenti di intelligenza artificiale ed ha contratti con l’ufficio principale dell’AI del Pentagono dall’anno scorso.
Domande frequenti (FAQ)
Che cos’è un sistema di gestione delle battaglie?
Un sistema di gestione delle battaglie è una suite software di comando e controllo utilizzata dai leader militari per ottenere una panoramica dettagliata della situazione durante scenari di combattimento. Consente la coordinazione di azioni come il fuoco d’artiglieria, l’identificazione dei bersagli per attacchi aerei e i movimenti delle truppe.
In che modo DALL-E può aiutare nei sistemi di gestione delle battaglie?
Utilizzando DALL-E, i computer del Pentagono potrebbero potenzialmente potenziare le loro capacità “visive”. Le immagini generative create da DALL-E consentirebbero ai computer di “vedere” e comprendere meglio le condizioni sul campo di battaglia. Questo miglioramento aiuterebbe significativamente l’identificazione dei bersagli e le operazioni di distruzione.
Microsoft ha già iniziato a utilizzare DALL-E per scopi militari?
Secondo quanto comunicato da Microsoft a The Intercept, sebbene abbiano suggerito l’utilizzo di DALL-E per addestrare software da campo, finora non è stata effettuata alcuna implementazione. Microsoft sottolinea che si tratta di possibili casi d’uso discussi durante le conversazioni con i clienti.
Una portavoce di OpenAI, Liz Bourgeous, ha ribadito che i modelli di OpenAI non sono stati utilizzati nella modalità descritta nei materiali della presentazione. Inoltre, OpenAI non ha partnership con agenzie di difesa specificamente per utilizzare la loro API o ChatGPT in tali contesti.
Considerando le politiche precedenti di OpenAI, un’applicazione militare di DALL-E sarebbe stata preclusa. Microsoft chiarisce che se il Pentagono dovesse utilizzare DALL-E o altri strumenti OpenAI attraverso un contratto con Microsoft, sarebbero soggetti alle politiche di utilizzo di Microsoft. Tuttavia, utilizzare la tecnologia OpenAI per potenziare le capacità militari distruttive rappresenterebbe un cambiamento significativo per l società, la cui missione si incentra nello sviluppo di intelligenza artificiale sicura per il miglioramento dell’umanità.
Brianna Rosen, ricercatrice ospite presso la Blavatnik School of Government dell’Università di Oxford con un focus sull’etica della tecnologia, sottolinea le considerazioni etiche legate a tale tecnologia. Destacca che l’uso delle tecnologie di OpenAI da parte dei governi, sia per obiettivi positivi che negativi, è fondamentalmente una scelta politica.
Il documento della presentazione non fornisce dettagli espliciti su come DALL-E potrebbe essere impiegato nei sistemi di gestione delle battaglie. Tuttavia, il riferimento all’addestramento di questi sistemi suggerisce una possibile applicazione nel fornire al Pentagono dati di addestramento sintetici. Esponendo il software militare a grandi quantità di immagini artificiali generate da DALL-E, il software potrebbe riconoscere meglio i bersagli rilevanti in scenari reali, come le posizioni nemiche sul terreno.
Affrontando le preoccupazioni etiche, Heidy Khlaaf, un ingegnere di sicurezza del machine learning che ha lavorato in precedenza con OpenAI, mette in discussione l’accuratezza e l’affidabilità nell’utilizzare DALL-E per addestrare software militare. Khlaaf sostiene che le immagini generative di DALL-E attualmente mancano di fedeltà alle condizioni del mondo reale, compromettendo la loro efficacia per il raffinamento dei sistemi di gestione delle battaglie.
In conclusione, sebbene Microsoft abbia proposto l’utilizzo di DALL-E di OpenAI per operazioni militari, finora non è stata effettuata alcuna implementazione. OpenAI ha negato il coinvolgimento in questa proposta specifica e ha sottolineato il loro impegno nel prevenire l’utilizzo dei propri strumenti per scopi dannosi. Il potenziale di DALL-E nei sistemi di gestione delle battaglie rimane da vedere, con considerazioni sull’accuratezza, le implicazioni etiche e la missione generale di OpenAI.
La rivelazione che Microsoft ha proposto l’utilizzo dello strumento di generazione di immagini di OpenAI, DALL-E, per operazioni militari ha scatenato discussioni sulle possibili implicazioni e le considerazioni etiche legate alla collaborazione. Come riportato da The Intercept, la presentazione di Microsoft al Dipartimento della Difesa (DoD) ha illustrato come gli strumenti di machine learning di OpenAI, incluso ChatGPT e DALL-E, possano essere applicati a compiti all’interno delle operazioni militari, come l’analisi di documenti e la manutenzione di macchine.
Questa collaborazione arriva dopo che OpenAI ha revocato il divieto precedente sul lavoro militare, consentendo possibili partenariati in questo settore. Nonostante l’importante investimento di Microsoft in OpenAI abbia favorito una stretta collaborazione, entrambe le aziende hanno affrontato azioni legali per l’utilizzo di articoli giornalistici senza autorizzazione o riconoscimento.
I materiali della presentazione di Microsoft sono stati scoperti sul sito web di Alethia Labs, un’organizzazione no-profit che lavora con il governo federale sull’acquisizione di tecnologie. Alethia Labs ha collaborato strettamente con il Pentagono e detiene contratti con l’ufficio principale dell’AI del Pentagono. Il giornalista Jack Poulson ha scoperto questi materiali come parte della sua indagine.
Mentre Microsoft ha suggerito l’utilizzo di DALL-E per addestrare software da campo, ha chiarito che finora non è stata effettuata alcuna implementazione e si tratta di possibili casi d’uso discussi durante le conversazioni con i clienti. OpenAI ha negato il coinvolgimento nella proposta di Microsoft al Pentagono e ha confermato di non aver venduto strumenti al Dipartimento della Difesa. Le politiche di OpenAI impediscono rigorosamente l’uso dei loro strumenti per sviluppare armi, arrecare danni agli altri o distruggere proprietà.
The source of the article is from the blog elblog.pl