Stiprinti dirbtinio intelekto saugos priemones
Biden administracija imasi proaktyvių priemonių, kad apsaugotų Amerikos pažangiausius dirbtinio intelekto (AI) modelius nuo potencialių priešų, tokių kaip Kinija ir Rusija. Šie planai apima kliūčių kūrimą norint užkirsti kelią AI įrankių naudojimui, analizuojančių didelius teksto ir vaizdų kiekius, kurie galėtų lemti kompiuterinius atakas ar netgi stiprių biologinių ginklų plėtrą.
Iškraipyti realijų atspindžiai dėl AI galimybių
AI-pakeisti vaizdai, kurie sujungia faktus su išgalvotais dalykais, vis labiau infiliuoja socialinius tinklus. Tokios manipuliacijos užgožia skirtumą tarp realybės ir fikcijos, ypač JAV poliarizuotame politiniame kontekste. Nepaisant tokių manipuliuotų medijų egzistavimo kelis metus, jos pradėjo gauti pagrindą su naujų AI įrankių įvedimu, kaip parodyta „Midjourney“ programinės įrangos pavyzdžiu.
Kovo mėnesio ataskaitose nurodoma, kad įmonių „OpenAI“ ir „Microsoft“ palaikomi AI paremti vaizdų kūrimo įrankiai gali būti išnaudojami suklastoti fotografijas, sklindančias klaidinančią informaciją apie rinkimus ar balsavimą, nors šios įmonės turi politiką prieš klaidinančių turinio kūrimą.
Sprendžiant dezinformacijos kampanijas
Dezinformacijos kampanijos pasinaudojo AI imituojant autentiškus straipsnius kaip bendrą kanalą, kurio pagalba plinta netiesa. Socialiniai tinklai milžinai, tokie kaip „Facebook“, „Twitter“ ir „YouTube“, bando sustabdyti tokius vaizdo iškraipymus, bet jų pastangų veiksmingumas svyruoja.
Vienas AI pagalba gauta dezinformacija buvo klaidingas pareiškimas remiamas Kinijos valstybės valdomos naujienų agentūros, kuri apkaltino JAV veikiant biologinių ginklų laboratoriją Kazachstane, kaip pastebėta Departamento Tarpinstituciniame saugumo (DHS) 2024 grėsmių įvertinime.
Nacionalinio saugumo patarėjas Jake’as Sullivanas pripažino Vašingtone surengtame AI renginyje, kad demokratijos ginimas nuo šių didelio masto dezinformacijos kampanijų yra iššūkis, nes jos pasidaro priklausomos nuo AI galimybių, kuriose yra kenksmingos ketinimų valstybėms ir netvalstybėms dalyviams.
Biologinių ir kompiuterinių ginklų rizikos
Amerikos žvalgybos bendruomenės ir tyrėjai vis labiau nerimauja dėl užsienio kenksmingų veikėjų prieigos prie pažengusių AI galimybių rizikų. Ypač, „Griffin Scientific“ ir „Rand Corporation“ tyrimai nurodo, kad didieji kalbos modeliai (LLM) galėtų suteikti informacijos, kuri padėtų sukurti biologinius ginklus.
Viename pavyzdyje nustatyta, kad LLM gali teikti informaciją apie virusinius patogenus su pandemijos potencialu, kuriam reikalinga pasidalinama po daktaro lygmens žinomis. Tolimesni „Rand“ tyrimai patars, kad LLM galėtų padėti planuoti ir įvykdyti biologinę ataką, įskaitant siūlymus kaip disperguoti botulino toksino aerozolį.
Kompiuteriniu frontu, 2024 m. DHS grėsmių įvertinime buvo įspėta, kad AI būtų panaudotas kurti įrankius, palengvinančius didesnius, greitesnius ir nepastebimas kompiuterinius atakas prieš kritinę infrastruktūrą, įskaitant naftos vamzdynus ir geležinkelius. Buvo nustatyta, kad Kinija ir kiti konkurentai kūriau AI technologijas, galinčias pakenkti JAV interneto saugumui, įskaitant AI paremtus kenkėjiškus programinius įrankius. „Microsoft“ nustatė, kad hakerių grupės, susijusios su Kinijos ir Šiaurės Korėjos vyriausybėmis, Rusijos kariuomenės žvalgyba ir Irano Revoliucinių Gvardijų šakomis rafinuoja savo hakavimo pastangas naudodamos didžiulius kalbos modelius.
Remiantis straipsnyje pateiktais kontekstais, kai kuri faktai, kuriuos galima svarstyti, apima:
Tarpvalstybinis konkurencingumas dirbtinio intelekto plėtroje: Lenktynės dėl AI viršenybės nėra apribotos tik JAV ir jos priešais. Visos pasaulio šalys smarkiai investuoja į dirbtinį intelektą. Tai sukuria sudėtingą tarpvalstybinį kraštovaizdį, kuriame bendradarbiavimas ir konkurencija vyksta vienu metu, turintys įtakos pasauliniam saugumui ir ekonominiams dinaminiams procesams.
Reguliavimo ir etikos rūpesčiai: Kuo toliau besivystant AI technologijai, daugelis subjektų, įskaitant vyriausybes ir tarptautines organizacijas, susiduria su etinėmis pasekmėmis ir poreikiu reguliavimui, siekiant užtikrinti, kad AI būtų plėtojamas ir naudojamas atsakingai. Debatės apie stebėjimo, privatumo ir etišką AI panaudojimą kariškose srityse yra tokių rūpesčių pavyzdžiai.
AI ir ekonominis saugumas: Be militariškų ir saugumo programų, AI technologija taip pat reikšmingai veikia ekonominį saugumą. AI automatizavimo ir optimizavimo galimybės gali padėti padidinti produkciją ir ekonominį augimą, tačiau tai taip pat gali sukelti darbo vietų panaikinimą ir padidinti nelygybę.
‘AI ginkluotės varžybos’ retorika: Diskusijos apie „AI ginkluotės varžybas“, ypač tarp JAV ir Kinijos, sukėlė tiek susirūpinimą, tiek kontroversijas. Ginkluotės varžybos retorika galėtų potencialiai paskatinti saugumo dilemą, kai kiekvienas šalis siekia didesnio pajėgumų, reaguodama į kito progreso suvokimą, galbūt veda prie įtampų eskalavimo.
Žemiau pateikiami pagrindiniai klausimai, susiję su tema, kartu su atsakymais:
Kodėl svarbu JAV apsaugoti savo AI technologijas nuo užsienio priešų?
Tai svarbu nacionaliniam saugumui, išlaikyti konkurencinį pranašumą pasaulinėje ekonomikoje, ir apsaugoti informacijos ir demokratijos procesų vientisumą. Pažangi AI gali būti piktnaudžiavimo būdas vykdyti kompiuterines atakas, paveikti visuomenės nuomonę ir netgi padidinti ginklų sistemų pajėgumus.
Kokie pagrindiniai iššūkiai siekiant užkirsti užsienio veikėjų piktnaudžiavimą AI?
Technologinės priemonės, skirtos apsaugoti AI, yra sudėtingos ir gali prireikti didelių išteklių. Be to, technologijų pramonės globali ir susieto pobūdžio, todėl sunku kontroliuoti informacijos ir technologijos sklaidą. Atskleidimo klausimai, technologijų greitas vystymasis ir skirtumai tarptautiniuose normose ir reguliavime taip pat kelia iššūkių.
Kokie ginčai susiję su AI plėtros ir gynybos klausimais?
Rūpesčiai dėl potencialių AI ginkluotės varžybų, etiniai klausimai dėl autonominės gynybos sistemų, pusiausvyra tarp inovacijų ir saugumo, ir potencialus didėjantis saugumo konfliktų apie kompiuterinį saugumą yra pagrindiniai ginčų AI plėtros ir gynybos srityje.
AI technologijos stiprinimo privalumai ir trūkumai apima:
Privalumai:
– Gerinamas nacionalinis saugumas prieš kompiuterines grėsmes.
– Kritinės infrastruktūros ir ekonomikos stabilumo saugumas.
– Dezinformacijos sklaidos prevencija ir demokratinių procesų vientisumo palaikymas.
– Palaikomas strateginis pranašumas pasaulyje technologijų lyderystėje.
Trūkumai:
– Eskaluojama kompiuterinės saugumo lenktynių su priešais padėtis.
– Potenciali kliūtis mokslinio žinių atvirai mainų sistemai.
– Rizika dėl pernelyg griežto reguliavimo, kuris galėtų apriboti inovacijas vidaus technologijų pramonėje.
– Etiniai iššūkiai, kurie atsiranda taikant gynybinius AI technologijų, pvz., įvairų stebėjimą ar autonominę ginkluotę.
Kitai informacijai apie temą įsižiūrėkite į šias svetaines:
– AI.gov: JAV vyriausybės ištekliai ir informacija apie Amerikos AI iniciatyvą.
– DHS.gov: Departamentas Sienų ir saugumo, kuriame gali būti grėsmių įvertinimai ir strategijos dėl AI ir kompiuterinio saugumo.
– RAND.org: Tyrimų institutas, atliekantis tyrimus apie AI poveikį skirtingoms sritims, įskaitant saugumo klausimus.
– UN.org: Tarptautinės perspektyvos ir iniciatyvos dėl AI, įskaitant reguliavimo ir etikos debatus.