Pažangos dirbant su dirbtiniu intelektu kelia galimus saugumo iššūkius
Kai kalendorius prieinąs į gegužę 2024 m., technologijų gigantai pristatė naująjį išmanųjį dirbtinio intelekto technologijų rinkinį. OpenAI pristatė GPT-4o, o „Google“ paskelbė Gemini 1.5 Pro—abiąsias pakrautas revoliucingomis „super išmaniomis“ funkcijomis, skirtomis optimizuoti naudotojo patirtį. Nepaisant jų puikumo, šios priemonės ateina su įspėjimu, kad tampa įrankiais kibernetinių nusikaltėlių rankose įvairiems interneto sukčiavimams.
Visa didėjanti rizikos aplinka
Paskutiniame seminare vietinis viceministras Phạm Đức Long akcentavo kibernetinių atakų vis didėjantį sudėtingumą ir išbaigtatą. Turint dirbtinį intelektą kaip sąjungininką, kibernetiniai nusikaltėliai yra dar labiau galingi, didindami saugumo grėsmes daugkartinai. Ponas Phạm Duc Long išplatino griežtą įspėjimą dėl šios technologijos piktnaudžiavimo kūrimui vis sudėtingesnių kenkėjiškų programėlių ir subtilių sukčiavimo taktikų.
Sudarant išlaidas, susijusias su dirbtiniu intelektu, ir kibernetinėmis grėsmėmis
Informacijos saugumo departamentas iš Informacijos ir ryšių ministerijos praneša prarandamas sumas, viršijančias 1 milijoną trilijonų JAV dolerių pasaulyje, o Vėtnamas vienas patiria didžiulį dalį. „Deepfake“ technologija, kuri sukasi balsų ir veidų imitacijas, išsiskiria iš plačiai paplitusių sukčiavimo metodų. Prognozės nurodo, kad iki 2025 m. kasdien galima tikėtis apie 3 000 kibernetinių atakų, 12 naujų kenkėjiškų programų ir 70 naujų pažeidžiamumų.
Nguyễn Hữu Giáp, „BShield“ direktorius, paaiškino, kaip nusikaltėliai galėtų išnaudoti dirbtinio intelekto pažangesnę technologiją, kad lengvai sukurtų klastotas identitetus. Jie renka asmeninius duomenis per socialinius tinklus ar protingus spąstus, tokius kaip internetiniai pokalbiai dėl darbo ir oficialiai skambučiai skambučių.
Naudotojų informuotumo ir teisinės pagrindai
Informacinių technologijų specialistas Nguyễn Thành Trungas iš Ho Či Minho miesto išreiškė susirūpinimą dėl dirbtinio intelekto sukurtų phishingo el. laiškų, kuriuos mimikuoja patikimos įstaigos išsiuntėjai labai tiksliai. Tuo tarpu ekspertai skatina stiprinti kibernetinio saugumo priemones ir atlikti išsamų mokymą įmonių darbuotojams veiksmingai kovai su sparčiai didėjančiomis kibernetinėmis grėsmėmis.
Dirbtinio intelekto pionieriai ragina sudaryti tvirtesnę teisinę sistemą, aptarianti aplinkos etiką ir atsakomybę, siekiant apriboti dirbtinio intelekto pažangos išnaudojimą nesąžiningais tikslais. Skambinama įspėjimo signalas dėl prevencinių strategijų, kurias galima būtų panaudoti priešintis dirbtinio intelekto grėsmėms, skatinant „gerojo” dirbtinio intelekto bangą, kovojant su „bloguoju”.
Svarbūs klausimai ir atsakymai:
– Kokie potencialūs rizikos veiksniai susiję su naujomis dirbtinio intelekto technologijomis, tokiomis kaip GPT-4o ir Gemini 1.5 Pro?
Pažangios dirbtinio intelekto priemonės, tokios kaip GPT-4o ir Gemini 1.5 Pro, kelia riziką, kad jos gali būti panaudotos sukurti sudėtingas kibernetines atakas, phishingo kampanijas ir „deepfake“ video, kurias iššaukia sunku aptikti ir apgintis nuo jų.
– Koks bus prognozuojamas kibernetinių grėsmių statistikos rodiklis iki 2025 m.?
Prognozės rodo, kad iki 2025 m. galima tikėtis apie 3 000 kibernetinių atakų, 12 naujų kenkėjiškų programų ir 70 naujų pažeidžiamumų kasdien, rodantį reikšmingą kibernetinių grėsmių eskalavimą.
– Kokios priemonės gali būti taikomos, siekiant sušvelninti dirbtinio intelekto kibernetines grėsmes?
Priemonės gali būti tos, kad būtų stiprinamos kibernetinio saugumo protokolai, atliekamas išsamus personalo mokymas, kuri kryptimi būtų kūriamos dirbtinio intelekto saugumo priemonės ir būtų užtikrintos tvirtos teisinės sistemos, kurios užtikrintų etišką dirbtinio intelekto technologijų naudojimą.
– Koks yra teisinių sistemų vaidmuo kibernetinėje dirbtinio intelekto srityje?
Teisinės sistemą yra labai svarbios, nes jos apibrėžia etinius ribas ir atsakomybę naudojantis dirbtiniu intelektu, teikdamos gaires, kad būtų išvengta piktnaudžiavimo ir būtų sukurtos prevencinės strategijos, kad būtų kovojama su dirbtinio intelekto sukeltomis kibernetinėmis grėsmėmis.
Pagrindiniai iššūkiai ir kontroversijos:
Vienas pagrindinių iššūkių susijęs su dirbtiniu intelektu yra užtikrinti, kad inovacijos laikytųsi tiek etinių svarstymų, tiek kibernetinio saugumo reikalavimų. Kadangi dirbtinio intelekto galimybės tampa vis sudėtingesnės, reikalingi subalansuoti ir pažangesni reglamentai, siekiant užtikrinti jų saugų ir atsakingą naudojimą. Kilnojamas ginčas dėl balanso tarp inovacijų ir reglamentavimo, nes pernelyg griežtos apribojimai gali stabdyti technologinę plėtrą, o permainingumas gali leisti laisvai kauptis piktnaudžiavimui.
Kitas ginčas slėpiama privatumo ir autonomijos praradimo grėsme, kadangi dirbtinio intelekto sistemos, kurios pakartoja žmogaus sąveiką su aukštu precizumu, iššaukia mūsų gebėjimą atskirti ir pasitikėti skaitmeniniais ryšiais.
Privalumai ir trūkumai:
– Privalumai:
Dirbtinio intelekto technologijos ženkliai pagerina efektyvumą ir gali automatizuoti sudėtingus uždavinius, rezultuodamos produktyvumo prieaugį įvairiose pramonės šakose.
Jos suteikia intuityvias ir personalizuotas naudotojų patirtis, mokantis ir prisitaikantis prie naudotojų elgesio.
Dirbtinis intelektas taip pat gali gerinti saugumą, greitai atpažindamas ir reaguodamas į galimas kibernetines grėsmes, jei šie sistemos yra nukreiptos į gynybines priemones.
– Trūkumai:
Pažangios dirbtinio intelekto priemonės gali prisidėti prie sudėtingų kibernetinių grėsmių atsiradimo, kurios gali apeiti įprastus apsaugos priemones.
Jos gali būti naudojamos kurti realistiškus „deepfake“ vaizdo įrašus ar vykdyti labai tiksliai orientuotas phishingo atakas, padedant nusikaltėliams išnaudoti pažeidžiamumus.
Kadangi dirbtinės intelektas tampa autonomiškesnis, didėja poreikis reglamentavimui ir priežiūrai, kuri gali atsilikti nuo technologijos vystymosi.
Išvada:
Stiprios dirbtinio intelekto technologijos siūlo svarbius pranašumus, tačiau pagalvojus apie esamus pavojus jie turi būti atsakingai tvarkomi. Teisinės sistemos, etiniai svarstymai, naudotojų informuotumas ir proaktyvūs kibernetinio saugumo metodai yra svarbūs komponentai įsisavinti dirbtinio intelekto galios ir tuo pačiu metu sumažinti jo pavojus.
Daugiau informacijos apie dirbtinio intelekto pažangą galite rasti pagrindiniuose lyderių dirbtinio intelekto plėtotojų domenuose:
– OpenAI
– Google