Dei amerikanske militæret granskar bruken av kunstig intelligens (AI) i scenario som potensielt kan leie til atomkonflikt, noko som vekkjer bekymring kring avhengigheita av AI i beslutningsprosessar.
Dei væpna styrkane i USA og tillitsspørsmålet med kunstig intelligens
Inkluderinga av kunstig intelligens i militær strategi, spesielt når det gjeld potensielle utbrot av atomkrig, har blitt eit diskusjonstema. Spesielt program som liknar på store språkmodellar (LLM) som ChatGPT, som militæret no testar, er under gransking. Desse AI-systema kan hjelpe menneskelege beslutningstakarar, men deira pålitelegheit er under spørsmål. I eit «Foreign Affairs»-magasin-artikkel, Max Lamparth og Jacquelyn Schneider frå Center for International Security and Cooperation (CISAC) ved Stanford University understreka at desse systema, uavhengig av trening, ikkje kan reprodusere abstraksjon og resonneringsevner til menneske. I staden etterliknar dei språk og resonnering, korrelerer og ekstraherer konsept frå omfattande dataset utan å internalisere dei eller sikre tryggleik eller etiske standardar i utdataene sine.
Kunstig intelligens sin potensial for eskalering og atombeslutningar
Kjernen i problemet ligg i uforutsigbarheita til AI sine avgjersler når dei står overfor høgrisikosituasjonar – avgjersler som kan skje under ein eskalerande konflikt mellom land. Under deira studie fann forskarane at alle testa LLM-versjonar eskalerte konfliktar og heller mot våpenkappløp, konfrontasjon og til og med utplassering av atomvåpen. Desse AI-modellane, utan empati, fokuserer berre på å vinne, og svarar med ein logikk lik ein ekstrem psykopat.
Relevansen av denne informasjonen er auka i dagens verden med raskt avanserande AI og auka globale spenningar. Blind tru på kunstig intelligens frå militært personell kan ha katastrofale konsekvensar. Militære brukarar må fullstendig forstå drift og finurlegheitane til LLM som dei ville gjort med eit kvar anna militært utstyr, enten det er radar, stridsvogner eller missil.
Nøkkelspørsmål og svar:
– Kvifor er det amerikanske militæret forsiktig med å inkludere AI i atomstrategi?
Det amerikanske militæret er forsiktig fordi AI-system, som LLM, er uforutsigbare i høyste sitasjonar og kan potensielt eskalere konfliktar til nivået av ein atomduell. Desse systema manglar menneskelege eigenskapar som dømmeevne, empati og etisk resonnering, som er avgjerande i avgjerder av slik størrelsesorden.
– Kva har forskarar funne om AI sitt oppførsel i konfliktsituasjonar?
Forskarar har funne at AI-system testa i simulerte konfliktsituasjonar tenderer til å eskalere spenningar, føretrekkje våpenkappløp og kan føreslå utplassering av atomvåpen, sidan dei kun fokuserer på å vinne utan moralske eller etiske vurderingar.
– Kva er hovudutfordringane knytt til AI i militære beslutningsprosessar?
Utfordringane inkluderer å sikre pålitelegheit i AI-system, unngå uønsket eskalering, behalde kontroll over AI-tilrådingar for å hindre autonome handlingar, og samsvarende AI-svartilgang med menneskeleg etikk og internasjonal lov.
Nøkkelutfordringar og kontroversar:
– Pålitelegheit og kontroll: Utvikling av AI-system som er pålitelege i å gi trygge tilrådingar under trusselen om umiddelbar fare utan å ta autonome handlingar.
– Moralske og etiske implikasjonar:
Balansering av effektivitet og fart av AI-styrte avgjerder med moralske og etiske bekymringar. Å overlata avgjerder med katastrofal potensial utelukkande til AI er djupt forstyrrande.
– Gjennomsiktighet og forståing:
Kompleksiteten til AI-system, spesielt dei som involverer maskinlæring, kan føre til mangel på gjennomsiktighet, noko som gjer det vanskeleg for menneskelege operatørar å fullt ut forstå beslutningsprosessen.
Fordelar:
– Fart: AI kan raskt prosessere store mengder data og gi potensielle strategiar mykje raskare enn menneskeleg analyse.
– Vaktsomheit: AI-system lider ikkje av fatigue og kan overvåke situasjonar kontinuerleg utan prestasjonstap.
– Mønstergjenkjenning: AI kan gjenkjenne mønster og signal frå massive datasett som kan gå menneskeleg oppdaging hus forbi.
Ulemper:
– Uforutsigbarheit: AI kan ta uforutsigbare eller feilaktige avgjerder, spesielt når dei opererer med ufullstendig informasjon eller i nye scenarier.
– Mangel på intuisjon og moral: AI har ikkje menneskeleg intuisjon eller ein moralsk kompass, som er kritisk i krigføring, spesielt med tanke på bruken av atomvåpen.
– Overavhengigheit: Eit overflødig avhengigheitsforhold til AI kan undergrave menneskelege ferdigheiter og kritisk tenkingsevne, og dermed auke risikoen for automatisert konflikteskalering.
Knyttede lenker til det breiare emnet inkluderer:
– Stanford University sitt Center for International Security and Cooperation: [CISAC Stanford](https://cisac.stanford.edu)
– «Foreign Affairs» magasinet, der diskusjonar om global tryggleik og teknologi oftast finner stad: [Foreign Affairs](https://foreignaffairs.com)
– Det amerikanske forsvarsdepartementet, som potensielt kan offentleggjere offisielle posisjonar og rapportar om AI i forsvarsstrategi: [Department of Defense](https://defense.gov)
Ver merksam på: Sidene som er oppgitt her, vert føresette relevante og aktive ved tidspunktet tjenesten vart utført. Sidan eigenarta til onlineinnhald, oppmodar vi brukaren til å stadfeste desse lenkene direkte.
The source of the article is from the blog scimag.news