Microsoft neseniai pranešė, kad JAV priešai, ypač Iranas ir Šiaurės Korėja, naudoja generecinę dirbtinę intelektą (DI) šaudytinei kompiuterinėms saugumo operacijoms atlikti. Be to, Rusija ir Kinija taip pat pradėjo naudoti šią technologiją, nors mažesniu mastu. Nors šios technikos vis dar yra ankstyvosios stadijos ir pakankamai naujoviškos, Microsoft mano, kad būtina jas viešai atskleisti, nes šios šalys naudoja didelės teksto modelius norėdamos įsilaužti į tinklus ir atlikti įtakos operacijas.
Generecinis DI, ypač vadovaujamas OpenAI ChatGPT, padidino žaidimo beždžionių su saugumo įmonėmis ir nusikalstamais / agresyviais hakeriais lygį. Microsoft, kuris stipriai investavo į OpenAI, įspėjo, kad generecinis DI gali padidinti kenksmingas visuomens inžinerijas, padedant sukurti pažangesnius deepfake’us ir balsų klonavimą. Tai kelia reikšmingą grėsmę demokratinėms procesams, ypač metais, kai daugelis šalių vykdo rinkimus, stiprindamas dezinformacijos sklaidą.
Microsoft pateikė įvairių pavyzdžių, kaip šie JAV priešai naudojo generecinį DI. Šiaurės Korėjos grupė Kimsuky naudojo modelius, kad galėtų ištirti užsienio mąstymo laukus ir kurti turinį „spear-phishing” kampanijoms. Irano revoliucinė gvardija naudojo didelės teksto modelius socialinei inžinerijai ir remontams softwaro klaidas. Rusijos GRU karo žvalgybos vienetas, žinomas kaip Fancy Bear, ištyrė satelitų ir radarų technologijas, susijusias su Ukrainos konfliktu. Kinijos kiberspaudų grupės Aquatic Panda ir Maverick Panda taip pat tyrinėjo, kaip dideli teksto modeliai gali padidinti jų technines operacijas.
Tačiau OpenAI aiškino, kad jo dabartinis GPT-4 modelio pokalbių robotas turi ribotus galimus kenksmingoms kibernetinės saugos užduotims, kurios jau yra leidžiamos nenaudojant DI įrankių. Nepaisant to, kibernetinės saugos tyrėjai tikisi, kad ateityje tai pasikeis.
JAV Kibernetinės saugos ir infrastruktūros saugumo agentūros direktorė Jen Easterly pabrėžė tiek Kiniją, tiek dirbtinį intelektą kaip epochinės reikšmės grėsmes ir iššūkius. Ji pabrėžė, kad būtina kurti DI, atsižvelgiant į saugumą. Kritikai iškėlė nerimą dėl didelių teksto modelių išleidimo, teigdami, kad saugumas buvo pamirštas per jų kūrimą.
Judant į priekį, organizacijoms, tokioms kaip Microsoft, svarbu ne tik spręsti didelių teksto modelių pažeidžiamumus, bet ir teikti pirmenybę padaryti juos saugesnius. Generecinio DI ir didelių teksto modelių naudojimas, nors ir nėra nedelsianti grėsmė, gali tapti viena iš galingiausių ginklų, kuriais naudojasi kiekviena valstybių karinė valstybė. Kibernetinės saugos bendruomenei būtina stebėti ir aktyviai dirbti siekiant stipresnių saugumo priemonių kintančios DI technologijos sąlygomis.
Dažnai užduodami klausimai, pagrįsti pagrindiniais straipsnio temomis ir informacija:
K: Kas yra generecinis dirbtinis intelektas (DI)?
A: Generecinis DI tai dirbtinio intelekto technologijos, skirtos kurti naują ir originalią turinį, pvz., tekstą, vaizdus ar vaizdo įrašus, naudojimas.
K: Kaip JAV priešai, ypač Iranas ir Šiaurės Korėja, naudoja generecinį DI?
A: Šios šalys naudoja generecinį DI, ypač didelės teksto modelius, norėdamos įsilaužti į tinklus, vykdyti įtakos operacijas, užsiimti socialine inžinerija ir kurie phishing kampanijas.
K: Kiti šalys pradėjo naudoti generecinį DI?
A: Taip pat Rusija ir Kinija pradėjo naudoti šią technologiją, nors mažesniu mastu nei Iranas ir Šiaurės Korėja.
K: Su kokiomis problemomis susijęs generecinio DI naudojimas?
A: Generecinis DI gali pagerinti kenksmingas socialines inžinerijas, sukurdami pažangesnius deepfake’us, balsų klonavimą ir dezinformacijos sklaidą. Tai kelia reikšmingą grėsmę demokratinėms procesams, ypač rinkimų metu.
K: Koks buvo OpenAI ChatGPT indėlis į generecinio DI naudojimą?
A: OpenAI ChatGPT, generecinio DI modelis, padidino žaidimo beždžionių lygį tarp kibernetinės saugos įmonių ir agresyvių hakerių teikdamas pažangias galimybes kenksmingoms užduotims.
K: Kokių pavyzdžių Microsoft pateikė, kaip JAV priešai naudojo generecinį DI?
A: Šiaurės Korėjos Kimsuky grupė naudojo generecinį DI, kad galėtų ištirti mąstymo laukus ir kurti turinį drąsinimo kampanijoms. Irano revoliucinė gvardija naudojo didelės teksto modelius socialinei inžinerijai ir klaidų paieškai programinėje įrangoje. Rusijos GRU karinė žvalgybos vienetas ištyrė satelitus ir radarus su Ukrainos konfliktu susijusiose technologijose. Kinijos kibernetinės šnipinėjimo grupės Aquatic Panda ir Maverick Panda tyrinėjo, kaip dideli teksto modeliai gali padidinti jų operacijas.
K: Ar generecinis DI gali būti naudojamas kenksmingoms kibernetinės saugos užduotims, kurios nepriklauso nuo DI varomų įrankių?
A: Šiuo metu OpenAI GPT-4 modelis, pokalbių robotas, turi ribotą galimybių tokioms užduotims skirtų kenksmingų veiksmų atžvilgiu. Tačiau kibernetinės saugos tyrėjai tikisi, kad ateityje tai pasikeis.
K: Kokia yra JAV kibernetinės saugos ir infrastruktūros saugumo agentūros (CISA) pozicija dėl dirbtinio intelekto naudojimo?
A: CISA direktorė Jen Easterly pabrėžė tiek Kinijos, tiek dirbtinio intelekto svarbą kaip epochinės reikšmės grėsmes ir iššūkius. Ji akcentavo poreikį kurti dirbtinį intelektą, atsižvelgiant į saugumą.
K: Kuo organizacijos, tokioms kaip Microsoft, turėtų teikti pirmenybę dideliams teksto modeliams?
A: Svarbu, kad organizacijos, tokioms kaip Microsoft, ne tik spręstų didelių teksto modelių pažeidžiamumo problemas, bet ir teiktų pirmenybę padaryti juos saugesnius. Generecinio DI ir didelių teksto modelių naudojimas gali potencialiai tapti vienu galingiausių ginklų, kuriais naudojasi kiekviena valstybių karinė valstybė.
K: Ką kibernetinės saugos bendruomenė turėtų daryti reaguodama į kintančią DI technologiją?
A: Kibernetinės saugos bendruomenė turėtų būti budri ir aktyviai dirbti siekiant tobulinti saugumo priemones besivystančios DI technologijos sąlygomis.
Apibrėžimai:
– Generecinis DI: DI technologija, skirta kurti naują ir originalų turinį.
– Dideli teksto modeliai: DI modeliai, treniruoti su dideliais teksto duomenų kiekiais žmogui panašiems rezultatams gauti.
– Drąsinimo kampanijos
The source of the article is from the blog motopaddock.nl