Kibernetinių iššūkių galimybės dėl dirbtinio intelekto pažangos
Sulaukus 2024 m. gegužės, technologijų gigantai pristatė išskirtinių dirbtinio intelekto technologijų paketą. OpenAI pristatė GPT-4o, o „Google“ pranešė apie „Gemini 1.5 Pro“ – kiekvienas iš jų įpakuotas revoliucingomis „ypatingai protingomis” funkcijomis, skirtomis optimizuoti vartotojų patirtį. Nors šie įrankiai yra puikūs, jie turi savo išlygą, nes tampa įrankiais kibernetiniams nusikaltėliams įvairioms interneto sukčiavimo schemais.
Didėjantis rizikos peizažas
Neseniai vykusioje seminaroje vietinis viceministras Phạm Đức Long pabrėžė kibernetinių atakų sudėtingumą ir kryptingumą. Turintis pagalbą iš dirbtinio intelekto, kibernetiniai nusikaltėliai yra dar labiau galingi, padidindami saugumo grėsmes kelis kartus. Ponas Phạm Đức Long įspėjo dėl šios technologijos piktnaudžiavimo, siekiant kurti dar sudėtingesnius kenkėjiškus programinius produktus ir apgaulingas sukčiavimo taktikas.
AI sukeltų kibernetinių grėsmių sąnaudų apibendrinimas
Informacijos saugumo departamentas prie Informacijos ir ryšių ministerijos praneša, kad pasaulyje nuostoliai viršija 1 kvintilijono JAV dolerių, kai pats Vietnamas patiria didelį dalį. Deepfake technologija, kuri gamina balsų ir veido imitacijas, išsiskiria tarp dažnų sukčiavimo metodų. Prognozuojama, kad iki 2025 m. kasdien gali įvykti apie 3 000 kibernetinių atakų, 12 naujų kenkėjiškų programų ir 70 naujų pažeidžiamumų.
Nguyễn Hữu Giáp, „BShield“ direktorius, aiškina, kaip nusikaltėliai gali išnaudoti dirbtinio intelekto pažangą, lengvai sukurdami klaidingas tapatybes. Jie rinkosi asmeninius duomenis per socialinius tinklus ar gudrias spąstus, tokius kaip internetiniai darbo pokalbiai ir parengti skambučiai.
Vartotojų sąmoningumas ir teisinės struktūros
Informacijos technologijų specialistas Nguyễn Thành Trung iš Ho Ši Minh Maisto pareiškė susirūpinimą dėl AI generuojamų piktavalių el. laiškų, kuriuose imituojami patikimi subjektai su klastingai tiksliais detaliais. Tuo tarpu ekspertai skatina didinti kibernetinio saugumo priemones ir atlikti išsamią įmonės darbuotojų mokymąsi, kad būtų veiksmingai kovojama su sparčiai augančiomis kibernetinėmis grėsmėmis.
AI atvestieji ragina sukurti griežtesnę teisinę struktūrą, apimančią AI etikos ir atsakomybės, kad būtų apribota AI pažangos išnaudojimas sukčiavimo tikslais. Skambinama į šauktuką dėl prevencinių strategijų, kuriose AI galėtų būti naudojama kovoje su AI grėsmėmis, skatinant „gėrų” AI bangą, kovojančią su „blogais”.
Svarbūs klausimai ir atsakymai:
– Kokios galimos rizikos susijusios su naujomis AI technologijomis, tokiomis kaip GPT-40 ir Gemini 1,5 Pro?
Išsivysčiusios AI priemonės tokioms kaip GPT-4o ir Gemini 1.5 Pro kelia riziką, kad jos gali būti panaudotos kurti sudėtingas kibernetines atakas, piktavalių kampanijas ir deepfake’us, kurie yra sunkiai aptinkami ir gynybai sunkiai pasipriešinami.
– Kiek svarbūs prognozuojami kibernetinių grėsmių statistiniai duomenys iki 2025 m.?
Prognozės rodo, kad iki 2025 m. galime tikėtis apie 3 000 kibernetinių atakų, 12 naujų kenkėjiškų programų ir 70 naujų pažeidžiamumų kasdien, atspindinčią didelę kibernetinių grėsmių eskalaciją.
– Kokios priemonės gali būti taikomos mažinant AI susijusias kibernetines grėsmes?
Priemonės galėtų apimti kibernetinio saugumo protokolų stiprinimą, išsamią darbuotojų mokymą, AI valdomų saugumo įrankių kūrimą ir tvirtų teisinių struktūrų nustatymą, kad būtų užtikrintas AI technologijų etiškas naudojimas.
– Kokį vaidmenį atlieka teisinės struktūros AI kibernetinėje saugumo srityje?
Teisinės struktūros yra labai svarbios apibrėžiant etinius AI naudojimo ribas ir atsakomybę, teikiant vadovelines siekiant užkirsti kelią piktnaudžiavimui ir skatinti prevencines strategijas priešintis su AI susijusioms kibernetinėms grėsmėms.
Svarbūs iššūkiai ir kontroversijos:
Vienas pagrindinių iššūkių AI srityje yra užtikrinti, kad inovacijos būtų žingsniu priešais tiek etinių, tiek kibernetinio saugumo reikalavimų. Kadangi AI galimybės tampa vis sudėtingesnės, reikia labiau subtilių ir išplėstų teisės aktų, kad būtų užtikrintas saugus ir atsakingas jų naudojimas. Kontroversija kyla dėl inovacijų ir reguliavimo pusiausvyros, nes pernelyg griežtos apribojimai gali trukdyti technologiniam vystymuisi, tuo tarpu palankumas galėtų vesti prie plačios piktnaudžiavimo.
Kitas ginčas yra susijęs su galimu privatumo ir autonomijos praradimu, kadangi AI sistemos, kurios imituoja žmogaus sąveiką su dideliu tikslumu, iššaukia mūsų gebėjimą atpažinti ir pasitikėti skaitmeninėmis komunikacijomis.
Privalumai ir trūkumai:
– Privalumai:
AI technologijos reikšmingai pagerina efektyvumą ir gali automatizuoti sudėtingas užduotis, padedant įvairiose pramonėse padidinti produktyvumą.
Jos suteikia intuityvias ir asmeniškas vartotojų patirtis, įsisavinant ir prisitaikant prie vartotojo elgesio.
AI taip pat gali pagerinti saugumą greitai identifikuodama ir reaguodama į potencialias kibernetines grėsmes, jei tik sistemos yra orientuotos į gynybines priemones.
– Trūkumai:
Išsivysčiusios AI priemonės gali prisidėti prie sudėtingų kibernetinių grėsmių augimo, kurios gali praleisti įprastas saugumo priemones.
Jos gali būti naudojamos kurti realistinius deepfake’us ar vykdyti labai tiksliai nukreiptus piktavalių atakas, padarant paprastesniu nusikaltėliams išnaudoti pažeidžiamumus.
Kadangi AI sistemos tampa autonomiškesnės, kyla didesnės būtinybės reguliuoti ir kontroliuoti, kas gali atsilikti nuo technologijos vystymosi.
Išvados:
Tobulintos AI technologijos siūlo reikšmingus pranašumus, bet įneša įvairių rizikų, kurias reikia apdairiai valdyti. Teisinės struktūros, etiniai aspektai, vartotojų sąmoningumas ir proaktyvūs kibernetinio saugumo požiūriai yra svarbūs elementai, siekiant išnaudoti AI galimybes, slopinti jo pavojus.
Daugiau informacijos apie AI pažangą galite rasti pagrindinėse pirmaujančių AI kūrėjų srityse:
– OpenAI
– Google
The source of the article is from the blog agogs.sk