Dirbtinis intelektas (DI) tapo dvipusiu kalaviju saugumo srityje. Nors jis siūlo didžiulį pažangos potencialą, jis taip pat kelia reikšmingus pavojus, kai jį naudoja kenksmingi veikėjai. Naujausioje tinklaraščio įraše „Microsoft“ ir „OpenAI“ aptarė, kaip valstybės remiami grėsmingieji subjektai vis daugiau naudoja generatyvinį dirbtinį intelektą (GenAI).
Pagal įrašą, Iranas, Šiaurės Korėja, Rusija ir Kinija visos pasinaudojo GenAI galia, siekdamos sustiprinti savo kibernetinių atakų gebėjimus. Šios šalys, per savo atitinkamas kibernetines grupes ar žvalgybos agentūras, panaudojo didelius kalbos modelius, teikiamus „Microsoft“ ir „OpenAI“, siekdamos vykdyti atakas labiau efektyviai. Integruotas DI ypač pagerino jų pastangas socialinio inžinerijos srityje, dėl ko atsirado įtikinančių gilesnių darinių ir balso klonavimo bandymų, skirtų infiltuoti į JAV sistemą.
Viena pastebima Irano ataka apėmė apsimetančius tarptautinės plėtros agentūros ir svetainės, skirtos žymiesiems feministėms. Šie pavyzdžiai pabrėžia užsienio priešų išorintų kibernetinių atakų nuolatinę evoliuciją ir sudėtingumą. Tik šį mėnesį buvo atskleista, kad Kinijos remiamas grėsmingas subjektas Volt Typhoon per stulbinančius penkerius metus sėkmingai infiltrovosi į Vakarų šalių kritinę infrastruktūrą.
DI integracija į kibernetines atakas kelia iššūkių gynybai, nes nuolat sunkėja atskirti DI valdomas atakas nuo tradicinių. Šiuo atveju įmonėms, kuriančioms DI technologijas, tenka atsakomybė papildomai taikyti kontrolės ir apsaugos priemones. Organizacijoms kritiniai kibernetinės saugos aspektai, tokie kaip daugiaveiksmės autentifikavimas ir nulis pasitikėjimo gynyba, yra labai svarbūs, nepaisant DI buvimo.
Nors „Microsoft“ ir „OpenAI“ pabrėžė, kad jie neaptiko reikšmingų atakų, kurių metu būtų naudojami dideli kalbos modeliai, kuriuos jie stebi nuolat, jie akcentavo informacijos dalinimosi ir bendradarbiavimo su gynybos bendruomene svarbą. Tokios pastangos siejamos su tikslo žingsniu pirmyn, siekiant būti žingsniu priekyje grėsmingųjų subjektų ir prevenciniu GenAI galimų piktnaudžiavimų neatidžiai užkertant kelią, tuo pat metu nuolat tobulinant aptikimo ir naikinimo besiformuojančias grėsmes.
Plėtojantis skaitmeniniam kraštovaizdžiui, kova tarp kibernetinių puolėjų ir gynėjų intensyvėja. DI galiomos kibernetinės atakos kelia unikalų ir galingą pavojų, reikalaujantį nuolatinės budrumo ir aktyvių priemonių iš organizacijų. Skatindami bendradarbiavimą, žinių dalinimą ir įsipareigojimą patikimioms kibernetinėms saugos praktikoms, gynėjų bendruomenė gali mažinti pavojus, susijusius su kenksmingu dirbtinio intelekto naudojimu.
Dažnai užduodami klausimai (FAQ) pagal pagrindines šaltinyje pateiktas temas ir informaciją:
1. Kas yra generatyvinis dirbtinis intelektas (GenAI)?
Generatyvinis dirbtinis intelektas (GenAI) – tai didelių kalbos modelių, pvz., tie, kuriuos teikia „Microsoft“ ir „OpenAI“, naudojimas norint kurti turinį arba generuoti naują tekstą. Tai yra dirbtinis intelektas, leidžiantis kompiuteriams generuoti panašų į žmogaus kalbą ar tekstą.
2. Kurios šalys pasinaudojo GenAI galia kibernetinėms atakoms?
Straipsnyje nurodoma, kad Iranas, Šiaurės Korėja, Rusija ir Kinija visos pasinaudojo generatyviniu dirbtiniu intelektu (GenAI), siekdamos sustiprinti savo kibernetinių atakų gebėjimus.
3. Kaip DI buvo naudojamas kibernetinėms atakoms?
DI buvo naudojamas kibernetinėms atakoms tobulinti socialinio inžinerijos technikas, sukurti tikėtinus gilesnius darinius ir bandyti balso klonavimą. Šios pažangos padaro sunkiau atskirti DI valdomas atakas nuo tradicinių.
4. Kokie yra kai kurių GenAI besivadovaujančių kibernetinių atakų pavyzdžiai?
Straipsnis minėja, kad Iranas naudojo GenAI, siųsdamas žvejybos elektroninius laiškus apsimetančius tarptautinei plėtros agentūrai ir svetainei, skirtai feministėms. Tai parodo nuolat besikeičiančią ir sudėtingą užsienio priešų rengiamų kibernetinių atakų raidą.
5. Kokius iššūkius kelia DI integracija į kibernetines atakas?
DI integracija į kibernetines atakas kelia vis didesnį iššūkį gynėjams, nes vis sunkiau atskirti DI valdomas atakas nuo tradicinių. Tai kelia sunkumų aptikti ir naikinti besiformuojančias grėsmes.
6. Kokias priemones organizacijos turėtų imtis siekiant įveikti DI galiomos kibernetinės atakos?
Organizacijos turėtų teikti pirmenybę kibernetinei saugai esminėms priemonėms, tokoms kaip daugiaveiksmė autentifikacija ir nulis pasitikėjimo gynyba, nepaisant DI buvimo. Taip pat svarbu, kad įmonės, kuriančios DI technologijas, įgyvendintų papildomas kontrolės ir apsaugos priemones.
7. Kaip bendradarbiavimas gali sumažinti riziką, susijusią su DI galiomis kibernetinėmis atakomis?
„Microsoft“ ir „OpenAI“ pabrėžia informacijos dalinimosi ir bendradarbiavimo su gynėjų bendruomene svarbą. Bendradarbiaudami ekspertai gali būti žingsniu priekyje grėsmingųjų subjektų ir užkirsti kelią galimam GenAI piktnaudžiavimui, taip pat tobulinant aptikimo ir naikinimo besiformuojančias grėsmes.
Pagrindiniai terminai apibrėžti:
– Dirbtinis intelektas (DI): Kompiuterinių sistemų kūrimas, gebančių atlikti užduotis, kurios paprastai reikalautų žmogiško intelekto, tokio kaip kalbos atpažinimas ar problemai spręsti.
– Generatyvinis dirbtinis intelektas (GenAI): Didelių kalbos modelių, tokio tipo, kuriuos teikia „Microsoft“ ir „OpenAI“, naudojimas žmogaus kalbai ar kalbai panašaus teksto generavimui.
– Kenksmingi veikėjai: Asmenys ar grupės, turinčios kenksmingų tikslų ir vykdančios veiksmus, tokius kaip kibernetinės atakos.
– Socialinė inžinerija: Manipuliacijos ar apgaulės naudojimas norint apgauti individus ir priversti juos atskleisti jautrią informaciją arba atlikti žalingus veiksmus.
– Glinksčiai: Dirbtinio intelekto pagalba sukurti ar keisti vaizdo arba vaizdų mediją atrodo tikroviškai, tačiau iš tikrųjų yra padirbti.
Siūlomi susiję nuorodų:
– Microsoft
– OpenAI
– Kibernetinės saugos ir infrastruktūros agentūra (CISA)
– Pasaulio sveikatos organizacija (PSO) – leidiniai apie dirbtinį intelektą
The source of the article is from the blog elblog.pl