Conform ultimelor informații, Microsoft a propus recent utilizarea instrumentului de generare de imagini al OpenAI, DALL-E, pentru a asista Departamentul Apărării (DoD) în construirea unui soft pentru operațiuni militare. Acestă dezvăluire vine la scurt timp după ce OpenAI a ridicat interdicția anterioară privind munca militară, deschizând astfel posibilitatea unor colaborări în această sferă.
Prezentarea Microsoft, intitulată „Generative AI with DoD Data,” evidențiază cum DoD poate valora instrumentele de învățare automată ale OpenAI, inclusiv generatorul lor de text ChatGPT și creatorul de imagini DALL-E. Aceste instrumente pot fi folosite în diverse sarcini, care variază de la analiza documentelor până la mentenanța echipamentelor, în cadrul operațiunilor militare. Investiția semnificativă a Microsoft în OpenAI a favorizat o relație de lucru strânsă între cele două companii. Totuși, Microsoft și OpenAI au fost confruntate cu acțiuni legale pentru folosirea jurnalismului fără permisiune sau credit.
Materialele din documentul Microsoft au fost preluate dintr-un seminar de formare „AI literacy” organizat de Departamentul Apărării în octombrie 2023. Diverse companii de învățare automată, inclusiv Microsoft și OpenAI, și-au prezentat ofertele și capacitățile Pentagonului la acest eveniment.
Fișierele accesibile public au fost descoperite pe site-ul Alethia Labs, o consultanță non-profit care asistă guvernul federal în achiziționarea de tehnologii. Jurnalistul Jack Poulson a descoperit aceste materiale ca parte a investigației sale mai ample în prezentare. Alethia Labs a colaborat strâns cu Pentagonul pentru a integra rapid instrumente de inteligență artificială și a avut contracte cu biroul principal de AI al Pentagonului încă din anul trecut.
Întrebări frecvente
1. Ce este un sistem de management al luptei?
Un sistem de management al luptei este o suită de software de comandă și control folosită de liderii militari pentru a obține o imagine cuprinzătoare a situației în timpul scenariilor de luptă. Acesta permite coordonarea acțiunilor cum ar fi focul de artilerie, identificarea țintelor pentru atacurile aeriene și mișcările trupelor.
2. Cum poate ajuta DALL-E în sistemele de management al luptei?
Prin utilizarea lui DALL-E, computerele Pentagonului ar putea să-și îmbunătățească potențialul de „vedere.” Imaginile generate de DALL-E ar permite calculatoarelor să „vadă” mai bine și să înțeleagă condițiile de pe câmpul de luptă. Această îmbunătățire ar ajuta semnificativ în identificarea țintelor și în operațiunile de distrugere.
3. Microsoft a început deja să folosească DALL-E în scopuri militare?
Conform declarației Microsoft către The Intercept, deși au sugerat utilizarea lui DALL-E pentru antrenarea software-ului de câmp de luptă, încă nu s-a realizat nicio implementare până în prezent. Microsoft subliniază că acestea sunt cazuri de utilizare potențiale discutate în conversațiile cu clienții.
4. A vândut OpenAI vreun instrument Departamentului Apărării?
OpenAI a negat implicarea în propunerea Microsoft către Pentagon și susține că nu a vândut niciun instrument Departamentului Apărării. Politicile OpenAI interzic strict utilizarea instrumentelor lor pentru dezvoltarea de arme, cauzarea de rău altora sau distrugerea proprietății.
Purătoarea de cuvânt a OpenAI, Liz Bourgeous, a reiterat faptul că modelele OpenAI nu au fost folosite în capacitatea descrisă în materialele prezentării. În plus, OpenAI nu are parteneriate cu agenții de apărare specifice pentru utilizarea API-ului sau a lui ChatGPT în astfel de contexte.
În considerarea politicilor anterioare ale OpenAI, o aplicație militară a lui DALL-E ar fi fost interzisă. Microsoft clarifică că, dacă Pentagonul ar utiliza DALL-E sau alte instrumente OpenAI printr-un contract cu Microsoft, ele ar fi supuse politicilor de utilizare ale Microsoft. Cu toate acestea, utilizarea tehnologiei OpenAI pentru îmbunătățirea capacităților militare de ucidere și distrugere ar reprezenta o schimbare semnificativă pentru companie, a cărei misiune se axează pe dezvoltarea inteligenței artificiale sigure pentru binele umanității.
Brianna Rosen, cercetătoare asociată la Școala de Guvernare Blavatnik de la Universitatea Oxford, cu accent pe etica tehnologică, subliniază considerațiile etice referitoare la o astfel de tehnologie. Ea evidențiază că utilizarea tehnologiilor OpenAI de către guverne, fie pentru scopuri pozitive, fie negative, este fundamental o alegere politică.
Documentul prezentării nu oferă detalii explicite despre modul în care DALL-E ar putea fi implementat în cadrul sistemelor de management al luptei. Cu toate acestea, referirea la antrenarea acestor sisteme sugerează o posibilă aplicare în furnizarea Pentagonului de date de antrenament sintetice. Prin expunerea software-ului militar la cantități mari de imagini artificiale generat de DALL-E, acesta poate recunoaște mai bine țintele relevante în scenarii reale, cum ar fi pozițiile inamice pe teren.
Adresând preocupările etice, Heidy Khlaaf, inginer de securitate în învățarea automată care a lucrat anterior cu OpenAI, pune la îndoială acuratețea și fiabilitatea folosirii lui DALL-E pentru antrenarea softului militar. Khlaaf argumentează că imaginile generate de DALL-E lipsesc în prezent de fidelitate față de condițiile din lumea reală, compromițând eficacitatea lor pentru ajustarea fină a sistemelor de management al luptei.
În concluzie, deși Microsoft a propus utilizarea lui DALL-E de la OpenAI în operațiuni militare, până în prezent nu s-a realizat nicio implementare. OpenAI neagă implicarea în această propunere specifică și subliniază angajamentul lor de a preveni utilizarea instrumentelor lor în scopuri dăunătoare. Potențialul lui DALL-E în sistemele de management al luptei rămâne de văzut, cu considerații referitoare la acuratețe, implicări etice și misiunea generală a OpenAI.
Revelația că Microsoft a propus utilizarea instrumentului de generare a imaginilor de la OpenAI, DALL-E, în operațiuni militare, a generat discuții despre implicatiile potențiale și considerațiile etice legate de colaborare. Conform raportului The Intercept, prezentarea Microsoft către Departamentul Apărării (DoD) a evidențiat cum instrumentele de învățare automată de la OpenAI, inclusiv ChatGPT și DALL-E, ar putea fi aplicate în sarcini din cadrul operațiunilor militare, cum ar fi analiza documentelor și mentenanța echipamentelor.
Această colaborare vine după ce OpenAI a ridicat interdicția anterioară privind munca militară, deschizând astfel posibilități pentru parteneriate în acest sector. Investiția semnificativă a Microsoft în OpenAI a favorizat o relație strânsă de lucru, cu toate că ambele companii au fost implicate în acțiuni legale pentru folosirea jurnalismului fără permisiune sau credit.
Materialele pentru prezentarea Microsoft au fost descoperite pe site-ul Alethia Labs, o consultanță non-profit care lucrează cu guvernul federal în achiziționarea de tehnologii. Alethia Labs a colaborat strâns cu Pentagonul și deține contracte cu biroul principal de AI al Pentagonului. Jurnalistul Jack Poulson a dezvăluit aceste materiale ca parte a investigației sale.
Deși Microsoft a sugerat utilizarea lui DALL-E pentru antrenarea software-ului de câmp de luptă, aceștia au precizat că până în prezent nu s-a realizat nicio implementare, ci acestea sunt cazuri de utilizare potențiale discutate în conversații cu clienții. OpenAI a negat implicarea în propunerea Microsoft către Pentagon și a confirmat că nu a vândut niciun instrument Departamentului Apărării. Politicile OpenAI…
The source of the article is from the blog cheap-sound.com