Kaip praneša The Intercept, „Microsoft“ neseniai pasiūlė naudoti „OpenAI“ vaizdų generavimo įrankį „DALL-E“, kad padėtų Gynybos departamentui kurti programinę įrangą karinėms operacijoms. Šis atskleidimas įvyko greičiausiai po to, kai „OpenAI“ atšaukė savo ankstesnįjį draudimą dalyvauti karinėse veiklose, leisdama potencialioms bendradarbiavimo galimybėms šioje srityje.
„Microsoft“ pristatyme, pavadinimu „Generatyvinis dirbtinis intelektas su DoD duomenimis“, išdėstyta, kaip Gynybos departamentas gali pasinaudoti „OpenAI“ mašininio mokymosi įrankiais, įskaitant jų žinomą teksto kūrėją „ChatGPT“ ir vaizdų kūrėją „DALL-E“. Šie įrankiai gali būti taikomi įvairiose užduotyse, nuo dokumentų analizės iki mašinų priežiūros, karinėse operacijose. „Microsoft“ reikšmingai investavo į „OpenAI“, skatinant glaudesnį bendradarbiavimą tarp abi šių įmonių. Tačiau „Microsoft“ ir „OpenAI“ teismo keliu kaltinami naudoję žurnalistiką be leidimo ar kredito.
Medžiagos iš „Microsoft“ dokumento buvo surinktos iš spalio mėnesį surengto Krašto gynybos „dirbtinio intelekto raštingumo“ treningo seminaro. Į šį renginį Pentagonui pristatė įvairių mašininio mokymo įmonių atstovai, įskaitant „Microsoft“ ir „OpenAI“.
Viešai prieinami failai buvo aptikti Alethia Labs svetainėje, ne pelno siekiančio konsultacinio padalinio, padedančio federalinei vyriausybei įsigyti technologijų. Žurnalistas Jack Poulson šiuos duomenis aptiko kaip dalį platesnės jo tyrimo dalies. Alethia Labs nuo praėjusio meto glaudžiai bendradarbiauja su Pentagono pagrindiniu dirbtinio intelekto biuru ir turi sutartis su šiuo biuru.
DUK
Kas yra kovos valdymo sistema?
Kovos valdymo sistema yra komandos ir kontrolės programinė įranga, kurią naudoja kariniai lyderiai kompleksiškam situacijos apžvalgai gauti kovos scenarijų metu. Ji leidžia koordinuoti veiksmus, tokius kaip artillerijos ugnies šūviai, skrydžio į taikinius identifikavimas ir karių judėjimas.
Kaip „DALL-E“ gali padėti kovos valdymo sistemose?
Panaudojant „DALL-E“, Pentagono kompiuteriai galėtų potencialiai pagerinti savo „regėjimo“ galimybes. „DALL-E“ sukuriami generatyviniai vaizdai leistų kompiuteriams geriau „matyti“ ir suprasti kovos lauko sąlygas. Šis pagerinimas labai padėtų identifikuojant tikslus ir sunaikinimo operacijas.
Ar „Microsoft“ jau pradėjo naudoti „DALL-E“ karių tikslais?
Pagal „Microsoft“ pareiškimą „The Intercept“, nors jie pasiūlė naudoti „DALL-E“ mokymui kovos lauko programinei įrangai, jokių įgyvendinimų iki šiol nevyko. „Microsoft“ pabrėžia, kad tai yra potencialūs naudojimo atvejai, aptariami su klientais.
Ar „OpenAI“ jau pardavė įrankų Karinio departamentui?
„OpenAI“ paneigė dalyvavimą „Microsoft“ pristatyme Pentagonui ir tvirtina, kad jie nebuvo pardavę įrankų Kariniam departamentui. „OpenAI“ politika griežtai draudžia naudoti jų įrankus kurti ginklus, kitiems padaryti žalą ar nugriauti turtą.
„OpenAI“ atstovė Liz Bourgeous patvirtino, kad „OpenAI“ modeliai nebuvo naudojami taip, kaip tai buvo aprašyta pristatymo medžiagose. Be to, „OpenAI“ neturi jokių partnerystės susitarimų su gynybos agentūromis, skirtais konkrečiai naudoti jų API ar ChatGPT šiame kontekste.
Atsižvelgiant į „OpenAI“ ankstesnes politikas, „DALL-E“ karinis naudojimas būtų buvęs uždraustas. „Microsoft“ paaiškina, kad jei Pentagonas naudotų „DALL-E“ ar kitus „OpenAI“ įrankius per sutartį su „Microsoft“, jie būtų priklausomi nuo „Microsoft“ naudojimo politikos. Vis dėlto „OpenAI“ technologijų naudojimas karinems žudymo ir naikinimo galimybėms pagerinti būtų didelis posūkis įmonės misijai, kurios pagrindas yra saugių dirbtinio intelekto kūrimas žmonijos gerovei.
Brianna Rosen, Oxfordo universiteto Blavatniko viešosios politikos mokyklos apsilankanti kolegė, susitelkusi į technologijos etikos klausimus, pabrėžia etinius šiose technologijose slypinčius klausimus. Ji pabrėžia, kad „OpenAI“ technologijų valdymas vyriausybės institucijose, ar tai būtų teigiami ar neigiami tikslai, yra fundamentaliai politinis pasirinkimas.
Pristatymo dokumente nėra tiesioginių detalių apie tai, kaip „DALL-E“ galėtų būti įgyvendintas kovos valdymo sistemose. Tačiau jo nuoroda į šių sistemų mokymą siūlo galimą taikymą Pentagonui suteikiant sintetinius mokymosi duomenis. Pristatydamas didžiules „DALL-E“ sugeneruotas dirbtinio vaizdų kiekius, karinis programinė įranga geriau galėtų atpažinti reikšmingus taikinius realių scenarijų, pvz., priešo padėtis žemėje, aplinkoje.
Atsižvelgdama į etikos klausimus, Heidy Khlaaf, mašininio mokymosi saugumo inžinierė, kuri anksčiau dirbo su „OpenAI“, kelia klausimus apie „DALL-E“ tikslumo ir patikimumo naudojimą karo programinei įrangai mokyti. Khlaaf teigia, kad „DALL-E“ sugeneruoti vaizdai šiuo metu neatspindi realių sąlygų fidelumo, kompromituodami jų veiksmingumą feilint kovos valdymo sistemų feinšlą šilumą.
Galų gale, nors „Microsoft“ pasiūlė naudoti „OpenAI“ „DALL-E“ karinėse operacijose, iki šiol nebuvo jokio įgyvendinimo. „OpenAI“ nurodo neįsitraukimą į šį konkretų pasiūlymą ir pabrėžia, kad įsipareigoję užkirsti kelią savo įrankų naudojimui kenksmingiems tikslams. „DALL-E“ galimybė kovos valdymo sistemose dar nežinoma, su svarstymais dėl tikslumo, etinių implicijų ir „OpenAI“ misijos apskritai.
„Microsoft“ pasiūlytas „OpenAI“ vaizdų generavimo įrankio „DALL-E“ panaudojimas karinėse operacijose sukėlė diskusijas apie potencialius pasekmes ir etinius klausimus, susijusius su šia bendradarbiavimu. Kaip praneša The Intercept, „Microsoft“ pristatymas Gynybos departamentui išdėstė, kaip „OpenAI“ mašininio mokymosi įrankiai, įskaitant „ChatGPT“ ir „DALL-E“, galėtų būti taikomi užduotims karinėse operacijose, tokioms kaip dokumentų analizė ir mašinų priežiūra.
Šis bendradarbiavimas įvyko po to, kai „OpenAI“ atšaukė ankstesnįjį draudimą dalyvauti karinėse veiklose, leisdama potencialioms partnerystėms šioje srityje. „Microsoft“ reikšmingai investavo į „OpenAI“, skatinant glaudesnį bendradarbiavimą, nors abiem įmonėms pareikštakaltesi teisinės klaidos naudojant žurnalistiką be leidimo ar kredito.
„Microsoft“ pristatymo medžiagos buvo rastos Alethia Labs svetainėje, ne pelno siekiančio konsultacinio padalinio, dirbančio su federacine vyriausybe technologijų įsigijimo srityje. Ši organizacija glaudžiai bendradarbiauja su Pentagono ir turi sutartis su pagrindiniu Pentagono dirbtinio intelekto biuru. Žurnalistas Jack Poulson šias medžiagas aptiko kaip tyrimo dalį.
The source of the article is from the blog regiozottegem.be