Pažangos dirbtinio intelekto srityje kelia potencialias kibernetikos saugumui iššūkių
Pasuko į gegužę 2024 m., technologijų gigantai pristatė grupę pažangių dirbtinio intelekto technologijų. „OpenAI“ pristatė GPT-4o, o „Google“ paskelbė apie „Gemini 1.5 Pro“ – kiekviena pakrauta revoliucingais „super protingais“ funkcijomis, kurios skirtos optimizuoti vartotojų patirtį. Nepaisant jų genialumo, šie įrankiai ateina su įspėjimu, kad jie tampa įrankiais kibernetinių nusikaltėlių rankose įvairiems internetiniams sukčiavimams.
Eskaluojanti rizikos aplinka
Neseniai vykusiame seminare Vidaus reikalų viceministras Phạm Đức Long pabrėžė nuolat kintanti kibernetinio nusikaltimo atakų sudėtingumą ir sumanumą. Turint dirbtinį intelektą kaip sąjungininką, kibernetiniai nusikaltėliai dar labiau gali pasitikėti savimi, didindami saugumo grėsmes daug kartų. Ponas Phạm Duc Long išplatino griežtą įspėjimą apie šios technologijos piktnaudžiavimą, siekiant kurti įvairesnius kenksmingus programas ir sudėtingus sukčių taktikas.
Apytikslės sąnaudos, kylančios dėl AI susijusių kibernetinių grėsmių
Informacijos saugumo departamento pranešimu vietinėje informacijos ir komunikacijų ministerijos srityje, nuostoliai viršijo 1 kvadrilijoną JAV dolerių visame pasaulyje, o vien Vjetnamas patyrė didelę dalį. Darprasmiškos technologijos, kurios fabriškai kurebaluoja balsų ir veidų imitacijas, išsiskiria tarp dominuojančių sukčiavimo metodų. Prognozės rodo, kad iki 2025 m. kiekvieną dieną galėtų įvykti apie 3 000 kibernetinių atakų, 12 naujų kenksmingų programų ir 70 naujų pažeidžiamumų.
Nguyễn Hữu Giáp, „BShield“ direktorius, paaiškino, kaip piktieji asmenys gali pasinaudoti AI pažanga, lengvai fabrikuodami klaidingas tapatybes. Jie surinko asmeninius duomenis per socialinius tinklus ar apgaulingus spąstus, tokius kaip internetinės darbo pokalbių medžiagos ir oficialios kalbinti panašios telefono skambučiai.
Vartotojų informuotumas ir teisiniai pagrindai
Informacinės technologijos specialistas Nguyễn Thành Trungas iš Ho Ši Minio miesto išsako susirūpinimą dėl AI sukurtų phishing el. laiškų, kurie imituoja patikimas institucijas su priblokštinamais laipsniais tikslumu. Tuo tarpu ekspertai skatina stiprinti kibernetinio saugumo priemones ir išsamią įmonių personalo mokymąsi, kad efektyviau būtų galima susidoroti su sparčiai augančiomis kibernetinėmis grėsmėmis.
AI pionieriai skelbia apie stipresnį teisės aktų pagrindą, apie dirbtinio intelekto etikos ir atsakomybės apibrėžimą, siekiant suvaldyti AI pažangą piktnaudžiavimo tikslais. Raginama taikyti prevencines strategijas, kuriomis būtų galima naudoti AI kovai su AI grėsmėmis, skatinant „gero” AI bangos kovą su „blogu”.
Svarbūs klausimai ir atsakymai:
– Kokių potencialių rizikų kyla su naujomis AI technologijomis, tokiomis kaip GPT-4o ir Gemini 1.5 Pro?
Pažangūs AI įrankiai, tokie kaip GPT-4o ir Gemini 1.5 Pro, kelia riziką, nes gali būti naudojami kuriant sudėtingas kibernetines atakas, phishing kampanijas ir deepfake, kurie yra sunkiai aptinkami ir ginčijami.
– Kokios yra prognozuojamos kibernetinių grėsmių statistikos iki 2025 m.?
Prognozės rodo, kad iki 2025 m. galime tikėtis apie 3 000 kibernetinių atakų, 12 naujų kenksmingų programų ir 70 naujų pažeidžiamumų kasdien, atspindint substantialų kibernetinių grėsmių eskalaciją.
– Kokios priemonės gali būti įgyvendintos, siekiant sumažinti AI sukeltas kibernetines grėsmes?
Priemonės gali apimti kibernetinio saugumo protokolų stiprinimą, išsamų personalo mokymąsi, AI pagrindų saugumo įrankių plėtrą ir griežtų teisės aktų pagrindų nustatymą, užtikrinant etišką AI technologijų naudojimą.
– Koks yra teisės aktų pagrindų vaidmuo AI kibernetinio saugumo srityje?
Teisės aktų pagrindai yra būtini nustatant etines ribas ir AI naudojimo atsakomybę, pateikiant gaires, kad būtų išvengta piktnaudžiavimo ir skatinamos prevencinės strategijos priešintis AI sukeliamoms kibernetinėms grėsmėms.
Svarbiausi iššūkiai ir kontroversijos:
Vienas iš pagrindinių iššūkių AI srityje yra užtikrinti, kad inovacijos būtų žingsniu laiko su etiniais apsvarstymais ir kibernetinio saugumo reikalavimais. Kuo tobulėja AI galimybės, tuo labiau reikalingi subalansuoti ir pažengę teisės aktai, kad būtų užtikrintas jo saugus ir atsakingas naudojimas. Yra kontroversijų dėl balanso tarp inovacijų ir reguliavimo, nes pernelyg griežtos sąlygos gali trukdyti technologiniam vystymuisi, tuo tarpu atlaidumas gali lemti mastinį piktnaudžiavimą.
Kitas ginčas susijęs su galimų privatumo ir savarankiškumo praradimu, nes AI sistemos, imituojančios žmonišką sąveiką su didela tikslumu išbando mūsų gebėjimą atskirti ir pasitikėti skaitmeniniais ryšiais.
Privalumai ir trūkumai:
– Privalumai:
AI technologijos ženkliai padidina efektyvumą ir gali automatizuoti sudėtingus uždavinius, padidindamos produktyvumą skirtingose pramonės šakose.
Jos teikia intuityvias ir pritaikytas vartotojų patirtis, mokydamosis ir prisitaikydamos prie vartotojų veiksmų.
AI taip pat gali sustiprinti saugumą, greitai nustatydama ir reaguodama į galimas kibernetines grėsmes, jei šie sistemos yra orientuotos į gynybines priemones.
– Trūkumai:
Pažangūs AI įrankiai gali prisidėti prie sudėtingų kibernetinių grėsmių atsiradimo, galinčių praeiti šabloninius saugumo priemones.
Juos galima naudoti kurti realistiškus deepfakes ar atlikti itin taikytus phishing atakas, palengvinant nusikaltėliams išnaudoti pažeidžiamumus.
Kadangi AI sistemos tampa autonomiškesnės, kyla būtinybė reguliųoti ir tikrinti, kas gali virsti technologijos vystymusi.
Išvados:
Pagerintos AI technologijos siūlo ženkliai naudos, tačiau pristato iššūkius, kuriuos reikia kruopščiai tvarkyti. Teisiniai pagrindai, etinės apsvarstymai, vartotojų informuotumas ir proaktyvūs kibernetinio saugumo požiūriai yra svarbūs komponentai, norint pasinaudoti AI galia, sumažinant jos pavojus.
Daugiau informacijos apie AI pažangą galite rasti pagrindžiamų AI kūrėjų pagrindiniuose domenuose:
– OpenAI
– Google
The source of the article is from the blog newyorkpostgazette.com