ASV izlūkdienestiem ir ļoti svarīga mākslīgā intelekta (AI) potenciāla izmantošana, bet vienlaikus viņiem ir jārisina arī tās drošības problēma. Valsts izlūkdienestu direktoru birojs sadarbojas ar uzņēmumiem un koledžām, lai izmantotu strauji attīstošās AI tehnoloģijas potenciālu un gūtu priekšrocību salīdzinājumā ar globālajiem konkurentiem, piemēram, Ķīnu. Tomēr prioritāte ir nodrošināt, ka AI nenosaka valsts noslēpumus vai neatgādina viltotas informācijas.
Izlūkdienestu kopiena atzīst, ka lielu valodu modeļu, piemēram, OpenAI ChatGPT, izmantošana dod daudz priekšrocību, jo tie spēj sniegt detalizētas atbildes uz lietotāju jautājumiem. Spēja apstrādāt milzīgu informācijas apjomu ir ļoti vērtīga, bet joprojām pastāv šaubas par šo modeļu uzticamību. ASV militārās un izlūkdienestu iestādes ir apņēmušās izmantot AI potenciālu, lai konkurētu ar Ķīnu, kas ir noteikusi par mērķi kļūt par pasaules līderi šajā jomā.
AI arī ir potenciāls ievērojami paaugstināt produktivitāti, analizējot lielu informācijas daudzumu un atklājot paraugus, kas cilvēkiem var nebūt redzami. Centrālā izlūkošanas aģentūras galvenais tehnoloģijas direktors Nands Mulčandānis uzskata, ka AI var palīdzēt palielināt cilvēku spējas un pārvarēt Ķīnas priekšrocību izlūkdienestu darbaspēkā.
Tomēr AI saistītie riski ar iekšējiem draudiem un ārējas iejaukšanās izraisīti draudi ir nozīmīgi. AI modeļi var tikt apmānīti, lai atklātu klasificētu informāciju vai manipulētu cilvēku, lai iegūtu neautorizētu informāciju. Lai risinātu šīs bažas, Ārējās izpētes projektu aktivitāte ir uzsākusi programmu “Bengāla”, kas koncentrējas uz potenciālās ietekmes un toksiskas informācijas izvadu mazināšanu AI. Nepietiekamas ietekmes efekti un ievērojamie generatīvās AI ierobežojumi tiecas izstrādāt aizsardzības mehānismus pret “halucinācijām”, kur AI izgudro informāciju vai sniedz nepareizus rezultātus.
AI izmantošana ASV izlūkdienestu vidē ir balstīta uz AI spēju atšķirt nozīmīgu informāciju no trokšņa un pieeju problēmām radoši. Tomēr drošība un uzticamība ir būtiski svarīga. Ņemot vērā AI modeļu pieaugošo izplatību, ir nepieciešams tos apmācīt bez kārdinājumiem un nodrošināt aizsardzību pret kaitīgiem modeļiem.
Spēkā esošajā cīņā, lai izmantotu AI iespējas, izlūkdienestu iestādes aktīvi pēta jaunākus risinājumus, vienlaikus būdami uzmanīgas pret iespējamām riskām un neaizsargātību.
Bieži uzdotie jautājumi:
1. Kāda ir ASV izlūkdienestu loma saistībā ar mākslīgo intelektu (AI)?
– ASV izlūkdienestu iestādes izmanto AI tehnoloģiju, lai iegūtu pārākumu salīdzinājumā ar Ķīnas konkurentiem. Viņi sadarbojas ar uzņēmumiem un koledžām, lai izmantotu AI iespējas un izpētītu tā potenciālu dažādās jomās.
2. Kāda ir galvenā baža saistībā ar AI izlūkdienestu kopienā?
– Galvenā baža ir nodrošināt AI drošību, lai novērstu jebkādas valsts noslēpumu kompromitēšanu vai viltotas datu radīšanu.
3. Kas ir lielu valodu modeļi un kāpēc tie ir vērtīgi izlūkdienestiem?
– Lielu valodu modeļi, piemēram, OpenAI ChatGPT, ir AI modeļi, kas spēj sniegt detalizētas atbildes uz lietotāju jautājumiem. Tos vērtīgi padara spēja apstrādāt lielu informācijas apjomu, ļaujot izlūkdienestu iestādēm iegūt nozīmīgus atklājumus.
4. Kāda ir Ķīnas pozīcija AI jomā?
– Ķīna ir globāls konkurents, kas ir noteicējusi par mērķi kļūt par līderi AI jomā. ASV izlūkdienestu iestādes cenšas izmantot AI, lai sacenstos ar Ķīnu un saglabātu priekšrocību.
5. Kāpēc AI var paaugstināt izlūkdienestu produktivitāti?
– AI var analizēt lielu informācijas daudzumu un atklāt paraugus, kas cilvēkiem var nebūt redzami, tādējādi paaugstinot produktivitāti izlūkdienestu darbībās.
6. Kādi ir riski, kas saistīti ar AI izlūkdienestu kopienā?
– AI modeļi var būt ievainojami pret iekšējiem draudiem un ārējo iejaukšanos, kas rada riskus, piemēram, konfidenciālas informācijas atklāšanu vai AI manipulēšanu, lai iegūtu neautorizētu informāciju no cilvēkiem.
7. Kā Ārējās izpētes projektu aktivitāte risina bažas par AI iekļautajām tendencēm un toksiskajiem rezultātiem?
– Ārējās izpētes projektu aktivitāte ir uzsākusi Bengālas programmu, kas koncentrējas uz tendenču un toksiskām izvadēm AI mazināšanu. Programma tiecas izstrādāt aizsardzības mehānismus pret “halucinācijām”, kur AI izgudro informāciju vai sniedz nepareizus rezultātus.
8. Kāpēc ir svarīgi apmācīt AI modeļus bez tendencēm un aizsargāties pret bojātajiem modeļiem?
– Ņemot vērā AI modeļu pieaugošo izplatību, ir būtiski svarīgi izglītot tos bez tendencēm, lai nodrošinātu taisnīgumu un novērstu diskrimināciju. Aizsargāšanās pret bojātajiem modeļiem ir nepieciešama, lai novērstu ļaunprātīgo darbību veicēju AI funkcionalitātes manipulāciju.
Definīcijas:
– Mākslīgā intelekta (AI): Cilvēku intelekta simulācija mašīnās, kas programmētas domāt un mācīties kā cilvēki.
– Lielu valodu modeļi: AI modeļi, kas tiek apmācīti ar lielu teksta datu apjomu un spēj sniegt detalizētas atbildes uz lietotāju izsaukumiem vai jautājumiem.
– Iekšēji draudi: Organizācijas darbinieki, kuri var ļaunprātīgi izmantot savas autorizētās sistēmu un informācijas piekļuves nolūkos.
– Tendences: Sistēmiskas un netaisnīgas prioritātes vai priekšspējas, kas var ietekmēt AI modeļa lēmumus vai rezultātus.
– Toksiskas izvades: AI modeļu radītie rezultāti, kas satur kaitīgu, apvainojošu vai tendenciozu saturu.
Saistītie saites:
– Valsts izlūkdienestu direktoru birojs
– OpenAI
– Centrālā izlūkošanas aģentūra
– Ārējās izpētes projektu aktivitāte
The source of the article is from the blog kunsthuisoaleer.nl