Podľa správy portálu The Intercept nedávno Microsoft navrhol využitie nástroja na generovanie obrázkov DALL-E od OpenAI na pomoc Ministerstvu obrany (DoD) pri vytváraní softvéru pre vojenské operácie. Táto informácia vyplýva krátko po tom, čo OpenAI zrušil svoj predchádzajúci zákaz spolupráce s vojenskými organizáciami, čo umožnilo potenciálne spolupráce v tejto oblasti.
Microsoftova prezentácia s názvom „Generatívna umelecká inteligencia s dátami DoD“ popisuje, ako môže DoD využiť nástroje strojového učenia od OpenAI, vrátane ich slávnej ChatGPT textovej generátory a tvorcu obrázkov DALL-E. Tieto nástroje môžu byť použité na rôzne úlohy od analýzy dokumentov po údržbu strojov v rámci vojenských operácií. Významná investícia Microsoftu do OpenAI vytvorila úzku pracovnú väzbu medzi týmito dvoma spoločnosťami. Microsoft a OpenAI však čelia právnym krokom za použitie žurnalistiky bez povolenia alebo uznania.
Materiály z dokumentov Microsoftu boli získané z „kurzu AI gramotnosti“ Ministerstva obrany konaného v októbri 2023. Rôzne spoločnosti špecializujúce sa na strojové učenie, vrátane Microsoftu a OpenAI, predstavili svoje ponuky a schopnosti Pentagonu na tomto podujatí.
Verejne dostupné súbory boli objavené na webovej stránke spoločnosti Alethia Labs, neziskovej poradenskej spoločnosti, ktorá pomáha federálnym orgánom pri akvizícii technológií. Novinár Jack Poulson ich odhalil ako súčasť širšieho vyšetrovania prezentácie. Alethia Labs úzko spolupracuje s Pentagonom na rýchlom integrovaní nástrojov umelej inteligencie a má zmluvy s hlavným kanceláriou AI v Pentagonu už od minulého roka.
Často kladené otázky
1. Čo je to systém riadenia bitky?
Systém riadenia bitky je softvérový balík na riadenie a kontrolu používaný vojenskými lídrami pre získanie komplexného prehľadu situácie počas bojových situácií. Umožňuje koordináciu akcií, ako je streľba delostrelectvom, identifikácia cieľov pre letecké údery a pohyby vojsk.
2. Ako môže DALL-E pomôcť v systémoch riadenia bitky?
Využitím DALL-E by počítače Pentagonu mohli potenciálne zlepšiť svoje „objektívne“ schopnosti. Generatívne obrázky vytvorené DALL-E by umožnili počítačom lepšie „vidieť“ a porozumieť podmienkam na bojisku. Toto zlepšenie by výrazne pomohlo pri identifikovaní cieľov a operáciách ich zničenia.
3. Začal Microsoft už využívať DALL-E na vojenské účely?
Podľa vyhlásenia od Microsoftu pre The Intercept, hoci navrhli použitie DALL-E na trénovanie softvéru bojiska, doposiaľ k žiadnej implementácii nedošlo. Microsoft zdôrazňuje, že tieto sú potenciálne prípady diskutované prostredníctvom konverzácií so zákazníkmi.
4. Predal OpenAI nejaké nástroje Ministerstvu obrany?
OpenAI popiera zapojenie do predstavenia Microsoftu Pentagonu a tvrdí, že nepredal žiadne nástroje Ministerstvu obrany. Politiky OpenAI prísne zakazujú využívanie ich nástrojov na vývoj zbraní, spôsobovanie škody iným alebo ničenie majetku.
Hovorkyňa OpenAI Liz Bourgeous zopakovala, že modely OpenAI neboli využité v rozsahu opísanom v materiáloch prezentácie. Okrem toho OpenAI nemá žiadne partnerstvá s obrannými agentúrami špecificky na využívanie ich API alebo ChatGPT v takýchto kontextoch.
S prihliadnutím na predchádzajúce politiky OpenAI by bola vojenská aplikácia DALL-E zakázaná. Microsoft vysvetľuje, že ak by Pentagon využíval DALL-E alebo iné nástroje od OpenAI prostredníctvom zmluvy s Microsoftom, podliehali by politikám využitia Microsoftu. Napriek tomu by použitie technológie od OpenAI na zlepšenie schopností vojenského zabíjania a ničenia predstavovalo významný posun pre spoločnosť, ktorej misia sa sústreďuje na vývoj bezpečnej umelej inteligencie pre dobro ľudstva.
Brianna Rosen, hostujúca študentka na Blavatnikovej škole vlády na Oxfordskej univerzite so zameraním na etiku technológií, zdôrazňuje etické zvažovania v súvislosti s takouto technológiou. Poukazuje na to, že využívanie technológií od OpenAI vládami, či už na pozitívne alebo negatívne ciele, je v podstate politickým rozhodnutím.
Prezentácia neobsahuje explicitné detaily o tom, ako by mohol byť DALL-E nasadený v systémoch riadenia bitky. Avšak odkaz na trénovanie týchto systémov naznačuje potenciálnu aplikáciu pri poskytovaní Pentagonu syntetických trénovacích údajov. Exponovaním vojenského softvéru veľkému množstvu umelej grafiky generovanej DALL-E, môže softvér lepšie rozpoznať relevantné ciele v reálnych situáciách, ako sú pozície nepriateľov na zemi.
Adresujúc etické obavy, Heidy Khlaaf, inžinierka pre bezpečnosť strojového učenia, ktorá predtým pracovala s OpenAI, kládla otázku presnosti a spoľahlivosti použitia DALL-E pri trénovaní vojenského softvéru. Khlaaf argumentuje, že generatívne obrázky DALL-E v súčasnosti chýbajú vernosť reálnym podmienkam, čo kompromituje ich účinnosť pri jemnom doladení systémov správy bitky.
Záverom, hoci Microsoft navrhol využitie OpenAIho DALL-E pre vojenské operácie, doposiaľ žiadna implementácia nenastala. OpenAI popiera zapojenie do tohto konkrétneho predstavenia a zdôrazňuje svoje odhodlanie zabrániť využitiu svojich nástrojov na škodlivé účely. Potenciál DALL-E v systémoch riadenia bitky zostáva nejasný, s ohľadom na presnosť, etické dôsledky a celkovú misiu OpenAI.
Odhalenie, že Microsoft navrhol využitie nástroja na generovanie obrázkov DALL-E od OpenAI pre vojenské operácie, vyvolalo diskusie o potenciálnych dôsledkoch a etických zvažovaniach týkajúcich sa takejto spolupráce. Podľa správy portálu The Intercept, prezentácia Microsoftu pre Ministerstvo obrany (DoD) popísala, ako môžu byť nástroje strojového učenia od OpenAI, vrátane ChatGPT a DALL-E, aplikované na úlohy v rámci vojenských operácií, ako je analýza dokumentov a údržba strojov.
Táto spolupráca nastala po tom, čo OpenAI zrušil svoj predchádzajúci zákaz spolupráce s vojenskými organizáciami, čo umožnilo potenciálne partnerstvá v tejto oblasti. Významná investícia Microsoftu do OpenAI vytvorila úzku pracovnú väzbu, hoci obe spoločnosti čelia právnym krokom za použitie žurnalistiky bez povolenia alebo uznania.
Materiály prezentácie Microsoftu boli objavené na webovej stránke spoločnosti Alethia Labs, neziskovej poradenskej spoločnosti pracujúcej s federálnymi orgánmi na akvizícií technológií. Alethia Labs úzko spolupracuje s Pentagonom a má zmluvy s hlavným kanceláriou AI v Pentagonu. Novinár Jack Poulson ich odhalil ako súčasť svojho vyšetrovania.
The source of the article is from the blog lisboatv.pt