Som rapporterat av The Intercept, har Microsoft nyligen föreslagit användningen av OpenAI’s bildgenereringsverktyg, DALL-E, för att assistera Department of Defense (DoD) med att bygga programvara för militära operationer. Detta avslöjande kommer strax efter att OpenAI hävde sitt tidigare förbud mot militärt arbete, vilket möjliggör potentiella samarbeten inom detta område.
Microsofts presentation, med titeln ”Generativ AI med DoD-data”, beskriver hur DoD kan dra nytta av OpenAI’s maskininlärningsverktyg, inklusive deras välrenommerade textgenerator ChatGPT och bildskaparen DALL-E. Dessa verktyg kan tillämpas på olika uppgifter, som sträcker sig från dokumentanalys till maskinunderhåll, inom militära operationer. Microsofts betydande investering i OpenAI har främjat ett nära samarbete mellan de båda bolagen. Det har dock framkommit att Microsoft och OpenAI har ställts inför rättsliga åtgärder för att använda journalistik utan tillstånd eller erkännande.
Materialet från Microsoft-dokumentet togs från en ”AI-literacy” utbildningsseminarium som hölls av Department of Defense i oktober 2023. Olika företag inom maskininlärning, inklusive Microsoft och OpenAI, presenterade sina erbjudanden och förmågor för Pentagon vid detta evenemang.
De offentligt tillgängliga filerna upptäcktes på webbplatsen för Alethia Labs, en ideell konsultfirma som hjälper den federala regeringen med teknikanskaffning. Journalisten Jack Poulson avslöjade dessa material som en del av hans bredare undersökning av presentationen. Alethia Labs har nära samarbete med Pentagon för att snabbt integrera artificiell intelligens och har haft kontrakt med Pentagons huvudkontor för AI sedan förra året.
FAQ
Vad är ett stridsledningssystem?
Ett stridsledningssystem är en kommando- och kontrollprogramvara som används av militära ledare för att få en omfattande översikt under stridssituationer. Det möjliggör samordning av åtgärder som artillerield, identifiering av mål för flygattacker och trupprörelser.
Hur kan DALL-E assistera i stridsledningssystem?
Genom att använda DALL-E kan Pentagons datorer potentiellt förbättra sina ”visions” kapaciteter. De genererade bilderna skapade av DALL-E skulle låta datorerna ”se” och förstå förhållandena på slagfältet bättre. Denna förbättring skulle avsevärt underlätta målidentifiering och förstörelseoperationer.
Har Microsoft redan börjat använda DALL-E för militära ändamål?
Enligt Microsofts uttalande till The Intercept, medan de har föreslagit att använda DALL-E för att träna fältprogramvara, har ingen implementering skett än så länge. Microsoft betonar att dessa är potentiella användningsfall diskuterade genom kundkonversationer.
Har OpenAI sålt några verktyg till Department of Defense?
OpenAI har förnekat inblandning i Microsofts pitch till Pentagon och hävdar att de inte har sålt några verktyg till Department of Defense. OpenAI:s policys förbjuder strikt användningen av deras verktyg för att utveckla vapen, orsaka skada på andra eller förstöra egendom.
OpenAI talesperson Liz Bourgeous bekräftade att OpenAI:s modeller inte har använts på det sätt som beskrivs i presentationsmaterialen. Vidare har OpenAI inga partnerskap med försvarsmyndigheter specifikt för att använda deras API eller ChatGPT på sådana sätt.
Med tanke på OpenAI:s tidigare policys skulle en militär tillämpning av DALL-E ha varit förbjuden. Microsoft klargör att om Pentagon skulle använda DALL-E eller andra OpenAI-verktyg genom ett avtal med Microsoft, skulle de omfattas av Microsofts användningspolicys. Ändå skulle användningen av OpenAI-teknologi för att förbättra militära dödande och destruktiva förmågor markera en betydande förändring för företaget, vars mission kretsar kring utveckling av säker artificiell intelligens för mänsklighetens bästa.
Brianna Rosen, en gästforskare vid Oxfords Blavatnik School of Government med fokus på tekniketik, betonar de etiska övervägandena kring en sådan teknologi. Hon poängterar att användningen av OpenAI:s teknologier av regeringar, oavsett om det är för positiva eller negativa syften, är grundläggande en politisk fråga.
Presentationsdokumentet ger inte explicita detaljer om hur DALL-E skulle kunna användas inom stridsledningssystem. Men dess referens till att träna dessa system antyder en möjlig tillämpning för att förse Pentagon med syntetiska träningsdata. Genom att exponera militär programvara för stora mängder artificiell imagery genererad av DALL-E, kan programvaran bättre känna igen relevanta mål i verkliga situationer, som fiendepositioner på marken.
Med hänsyn till de etiska bekymren, ifrågasätter Heidy Khlaaf, en ingenjör för maskininlärningssäkerhet som tidigare arbetat med OpenAI, noggrannheten och tillförlitligheten av att använda DALL-E för att träna militär programvara. Khlaaf hävdar att DALL-E:s genererade bilder för närvarande saknar likheter med verkliga förhållanden, vilket komprometterar deras effektivitet för finjustering av stridsledningssystem.
Sammanfattningsvis har Microsoft föreslagit att använda OpenAI:s DALL-E för militära operationer, men ingen implementering har ägt rum än så länge. OpenAI förnekar inblandning i detta specifika förslag och betonar deras åtagande att förhindra användningen av deras verktyg för skadliga ändamål. Potentialen för DALL-E inom stridsledningssystem återstår att ses, med hänsyn till noggrannhet, etiska implikationer och OpenAI:s övergripande mission.
The source of the article is from the blog oinegro.com.br