Stiprinant saugumo priemones dirbtinio intelekto srityje
Biden administracija ėmėsi proaktyvių priemonių apsaugoti pažangiausias Amerikos dirbtinio intelekto (AI) modelius nuo galimų priešų, tokių kaip Kinija ir Rusija. Šiuose planuose numatomi kliūčių kūrimas, kad būtų užkirstas kelias AI priemonėmis, analizuojančiomis didelius teksto ir vaizdų kiekius, piktnaudžiavimui, kuris galėtų lemti kibernetinius atakas ar netgi galingŗs biologinių ginklų plėtrą.
Iškraipyta realybė, kylanti iš AI galimybių
AI pakeisti vaizdo įrašai, kuriuose sumaišytas faktai su išgalvotais elementais, vis dažniau skverbia į socialinius tinklus. Toks manipuliavimas nublanko ribas tarp realybės ir fikcijos, ypač jaukiuose JAV politiniuose kraštovaizdžiuose. Nors šie manipuliuoti medija egzistuoja keletą metų, jie įgavo žavesio su naujų AI įrankių įvedimu, kaip parodo „Midjourney“ programinė įranga.
Kovo mėnesio ataskaitose nurodoma, kad įmonių, tokių kaip „OpenAI“ ir „Microsoft“, remiamos AI vaizdų kūrimo priemonės gali būti išnaudojamos klastoti fotografijas, kurios platinamos klaidinančia informacija apie rinkimus ar balsavimą, nors šios kompanijos turi politikos taisykles dėl klastojančių turinio kūrimo.
Kovojant su dezinformacijos kampanijomis
Dezinformacijos kampanijos pasinaudojo AI gebėjimu imituoti autentiškus straipsnius kaip bendrą būdą plisti netikrovėms. Socialinių tinklų gigantai, tokie kaip „Facebook“, „Twitter“ ir „YouTube“, bando sustabdyti tokius vaizdo koregavimus, tačiau jų pastangų efektyvumas kinta.
AI paskatintos dezinformacijos pavyzdys buvo melagingas tvirtinimas, palaikytas valstybės kontroliuojamo Kinijos naujienų tiekėjo, kaltindamas JAV veikiančią bio-ginklų laboratoriją Kazachstane, kaip nurodo Jungtinių Amerikos Valstijų Saugumo departamento (DHS) 2024 m. grėsmių vertinimas.
Nacionalinio saugumo patarėjas Jake’as Sullivanas pripažino Vasingtone vykusioje AI renginyje, kad gynyba nuo šių masinių dezinformacijos kampanijų, kurių tikslas yra valstybės ir nevalstybiniai veikėjai ir kurių priežastis – AI gebėjimai, yra iššūkis.
Biologinių ir kibernetinių ginklų pavojaus rizika
Amerikos žvalgybos bendruomenės ir tyrėjai vis labiau nerimauja dėl rizikos, kurią kelia užsienio kenksmingi veikėjai, turintys prieigą prie pažangios AI technologijos. Ypač studijos iš „Griffin Scientific“ ir „Rand Corporation“ nurodė, kad dideli kalbos modeliai (LLM) galėtų suteikti informacijos dėl biologinės ginkluotės kurimo.
Viename pavyzdyje buvo nustatyta, kad LLM gali suteikti žinias apie virusines patogenų po anglies-zonos lygio protective weapons su pandeminėmis galimybėmis. Papildomi „Rand“ tyrimai siūlė, kad LLM gali padėti planuoti ir įvykdyti biologinę ataką, įskaitant pasiūlymus dėl botulino toksino aerozolinės platinimo metodų.
Kibernetiniu frontu 2024 m. DHS grėsmių vertinimas įspėjo, kad AI yra naudojamas siekiant kurti įrankius, palengvinančius didesnės, greitesnės ir išvengiančios kibernetinės atakos kritinės infrastruktūros, įskaitant naftos vamzdynus ir geležinkelius. Paaiškėjo, kad Kinija ir kiti konkurentai kuriuo AI technologijas, sukeliančias pavojų JAV kibernetinei saugumui, įskaitant AI paremtus kenkėjiškus programinius įrankius. „Microsoft“ nurodė, kad su Kinijos ir Šiaurės Korėjos vyriausybėmis susiję hakavimo grupuotės, Rusijos kariuomenės žvalgybos ir Irano Revoliucinių gvardijų vykdo savo hakavimo pastangas per didesnių kalbos modelių įdarbinimą.
Turint omenyje pateiktą straipsnio kontekstą, kai kuriems papildomiems svarbiems faktams, kurie galėtų būti įtraukti, yra:
Tarptautinis konkurencija dirbtinio intelekto plėtros srityje: Varžba dėl AI viršenybės nėra apribota tik su Jungtinėmis Amerikos Valstijomis ir jos priešais. Visame pasaulyje investuojama dideli į dirbtinį intelektą. Tai sukuria sudėtingą tarptautinę aplinką, kur bendradarbiavimas ir konkurencija vyksta vienu metu, įtakojant pasaulinį saugumą ir ekonominius dinamikos.
Reguliatyvai ir etiniai rūpestis: Kuo daugiau AI technologijų pažengia, daugelis subjektų, įskaitant vyriausybes ir tarptautines organizacijas, kovoja su etiniais aspektais ir poreikiu reguliuoti, kad būtų užtikrintas atsakingas AI plėtojimas ir naudojimas. Debatai dėl stebėjimo, privatumo ir etinio AI naudojimo karo sritims pavyzdžiai atspindi šiuos rūpesčius.
AI ir ekonominis saugumas: Už karo ir kibernetinės saugumo taikymo AI technologija taip pat labai paveikia ekonominį saugumą. AI automatizavimo ir optimizavimo galimybės gali sustiprinti produktyvumą ir ekonomikos augimą, bet taip pat gali vesti prie darbo vietų pakeitimo ir didesnės nelygybės.
‘AI ginklų varžybos’ retorika: Aptarimas apie ‘AI ginklų varžybas’, ypač tarp JAV ir Kinijos, sukėlė abi susirūpinimą ir ginčą. Ginklų varžybos retorika gali skatinti saugumo dilemos, kai kiekviena pusė siekia didesnių galimybių, atsižvelgiant į išplėstinio priešo pažangą, galimai vedydamos prie įtampos eskalacijos.
Apsvarstykite žemiau pateiktus pagrindinius klausimus susijusius su tema, kartu su jų atsakymais:
Kodėl JAV svarbu ginti savo AI technologiją nuo užsienio priešų?
Tai svarbu nacionaliniam saugumui, išlaikyti konkurencinį pranašumą pasaulinėje ekonomikoje ir apsaugoti informacijos ir demokratinių procesų vientisumą. Pažangi AI gali būti piktnaudžiavama vykdyti kibernetines atakas, paveikti viešą nuomonę ir netgi padidinti ginklų sistemų galimybes.
Kokie pagrindiniai iššūkiai kylančiai ne teisėtoms AI užsienio veikėjų naudoti?
Technologiniai įrankiai saugoti AI yra sudėtingi ir gali reikėti didelių išteklių. Be to, technologijų industrijos pasaulinis ir susijungęs pobūdis dalinasi iššūkį kontrolės plitimo informacijos ir technologijos. Atributyvumo, greito technologijos vystymosi tempo ir skiriasi tarptautinėmis normomis ir reglamentais taip pat kyla iššukiai.
Kokie yra ginčai dėl AI plėtros ir gynybos?
Rūpesčiai dėl galimų AI ginklų varžybų, etiniai svarstymai dėl autonoma armijos sistemos, pusiausvyra tarp inovacijų ir saugumo, bei galimybės eskaluoti kibernetinius saugumo konfliktus yra pagrindiniai ginčai AI plėtros ir gynybos srityje.
AI technologijos sustiprinimo pranašumai ir trūkumai apima:
Privalumai:
– Stiprinamas nacionalinis saugumas prieš kibernetinius grasinimus.
– Kritinės infrastruktūros apsauga ir ekonominė stabilumas.
– Klastojimo plitimo prevencija ir demokratinių procesų vientisumo išlaikymas.
– Palaikoma strateginė pranašumas globalinio technologinio lydėjimo srityje.
Trūkumai:
– Kibernetinių ginklų varžybos su priešais eskalacija.
– Galimas mokslinio žinių atviro mainų sutrikimas.
– Rizika dėl pernelyg griežtos reguliavimo, kuri gali užgožti inovacijas vidaus technologijų pramonėje.
– Etiškos dilemos, susijusios su gynybinės AI technologijos įdiegimu, tokios kaip plačaus masto stebėjimo ar autonominio ginklo rizika.
Norint sužinoti susijusių informacijų, svarbu aplankyti šias svetaines:
– AI.gov: JAV vyriausybės ištekliai ir informacija apie Amerikos dirbtinio intelekto iniciatyvą.
– DHS.gov: Užtikrinti Saugumo departamentas, kuriame galite rasti grėsmių vertinimus ir strategijas apie AI ir kibernetinę saugumą.
– RAND.org: Tyrinėjimo institutas, kuris atlieka studijas apie AI poveikį įvairiose srityse, įskaitant saugumą.
– UN.org: Tarptautiniai perspektyvai ir iniciatyvos AI, įskaitant reguliavimo ir etikos debatus.