Napredak u umjetnoj inteligenciji postavlja potencijalne izazove kibernetičke sigurnosti
Kako je kalendar prešao u svibanj 2024., tehnološki divovi su predstavili paket naprednih AI tehnologija. OpenAI je lansirao GPT-4o, a Google je najavio Gemini 1.5 Pro – svaki opremljen revolucionarnim “super inteligentnim” značajkama s ciljem optimizacije korisničkog iskustva. Unatoč njihovoj briljantnosti, ovi alati dolaze s upozorenjem jer postaju instrumenti u rukama kibernetičkih kriminalaca za razne online prijevare.
Eskalirajući rizik u pejzažu cyber sigurnosti
Na nedavnom seminaru, zamjenik ministra Phạm Đức Long istaknuo je sve veću sofisticiranost i složenost cyber napada. S AI kao saveznikom, kibernetički kriminalci su dodatno osnaženi, povećavajući sigurnosne prijetnje mnogostruko. Gospodin Phạm Đức Long upozorio je na zloupotrebu tehnologije za izradu naprednijih zlonamjernih programa i lukavih taktika prevare.
Procjena troškova vezanih uz AI-povezane kibernetičke prijetnje
Odjel za informacijsku sigurnost Ministarstva informacija i komunikacija izvješćuje o gubicima koji prelaze 1 milijun trilijuna USD globalno, pri čemu se značajan dio odnosi samo na Vijetnam. Tehnologija dubinskih krivotvorina, koja lažira glasove i imitira lica, ističe se među prevaljenim prijevarnim metodama. Prognoze ukazuju da bi do 2025. moglo doći do oko 3.000 kibernetičkih napada, 12 novih zlonamjernih programa i 70 novih ranjivosti svakog dana.
Nguyễn Hữu Giáp, direktor BShield-a, objasnio je kako prekršitelji mogu iskoristiti napredak u AI-u kako bi lako proizveli lažne identitete. Oni prikupljaju osobne podatke putem društvenih medija ili lukavih zamki poput online intervjua za posao i službeno zvučnih telefonskih poziva.
Svijest korisnika i pravne okvire
Stručnjak za informacijsku tehnologiju Nguyễn Thành Trung iz Ho Chi Minh Cityja izrazio je zabrinutost zbog AI-generiranih phishing emailova koji oponašaju pouzdane subjekte s alarmantnom točnošću. U međuvremenu, stručnjaci potiču poboljšanje sigurnosnih mjera i dubinsku obuku za zaposlenike tvrtki kako bi učinkovito suzbili rastuće kibernetičke prijetnje.
Pioniri AI-a traže snažniji pravni okvir koji se odnosi na etiku i odgovornosti AI-a kako bi spriječili iskorištavanje napretka u AI-u u zlonamjerne svrhe. Poziva se na preventivne strategije u kojima bi se AI mogao koristiti za suprotstavljanje prijetnjama iz AI-a, potičući val “dobre” AI koja se bori protiv “loše”.
Ključna pitanja i odgovori:
– Kakvi su potencijalni rizici povezani s novim AI tehnologijama poput GPT-4o i Gemini 1.5 Pro?
Napredni AI alati poput GPT-4o i Gemini 1.5 Pro nose rizike jer se mogu koristiti za stvaranje sofisticiranih cyber napada, phishing kampanja i dubinskih krivotvorina, koje su izazovne za otkrivanje i obranu.
– Koliko su značajne projicirane statistike kibernetičkih prijetnji do 2025. godine?
Prognoze sugeriraju da bismo do 2025. mogli očekivati oko 3.000 kibernetičkih napada, 12 novih zlonamjernih programa i 70 novih ranjivosti dnevno, što odražava značajan porast kibernetičkih prijetnji.
– Kakve mjere mogu biti poduzete kako bi se ublažile AI-povezane kibernetičke prijetnje?
Mjere bi mogle uključivati poboljšanje protokola sigurnosti, dubinsku obuku osoblja, razvoj sigurnosnih alata koji koriste AI te uspostavu snažnih pravnih okvira kako bi se osigurala etička uporaba AI tehnologija.
– Koja je uloga pravnih okvira u kibernetičkoj sigurnosti u AI-u?
Pravni okviri su ključni u definiranju etičkih granica i odgovornosti uporabe AI-a, pružajući smjernice za sprječavanje zloupotrebe i olakšavajući razvoj preventivnih strategija za suprotstavljanje AI-povezanim kibernetičkim prijetnjama.
Ključni izazovi i kontroverze:
Jedan od glavnih izazova u AI-u je osigurati da inovacije drže korak s etičkim razmatranjima i zahtjevima kibernetičke sigurnosti. Kako se sposobnosti AI-a postaju sofisticiranije, potrebni su suptilniji i napredniji propisi kako bi se osigurala njihova sigurna i odgovorna upotreba. Postoji kontroverza oko balansiranja inovacija i regulacije, jer pretjerana ograničenja mogu ometati tehnološki razvoj, dok blaga regulacija može rezultirati širokom zloupotrebom.
Druga polemika odnosi se na potencijalni gubitak privatnosti i autonomije jer AI sustavi koji imitiraju ljudsku interakciju s visokom preciznošću izazivaju našu sposobnost razlikovanja i povjerenja u digitalne komunikacije.
Prednosti i nedostaci:
– Prednosti:
AI tehnologije znatno poboljšavaju učinkovitost i mogu automatizirati složene zadatke, što rezultira povećanjem produktivnosti u različitim industrijama.
Pružaju intuitivna i personalizirana korisnička iskustva učeći i prilagođavajući se korisničkom ponašanju.
AI također može unaprijediti sigurnost brzim identificiranjem i reagiranjem na potencijalne kibernetičke prijetnje, pod uvjetom da su ti sustavi usmjereni na obrambene mjere.
– Nedostaci:
Napredni AI alati mogu doprinijeti porastu sofisticiranih kibernetičkih prijetnji koje mogu zaobići konvencionalne sigurnosne mjere.
Mogu se koristiti za stvaranje realističnih dubinskih krivotvorina ili provođenje ciljanih phishing napada, olakšavajući kriminalcima iskorištavanje ranjivosti.
Kako postaju autonomniji, potreba za regulacijom i nadzorom AI sustava sve je veća, a ta mogućnost može kasniti za tehnološkim razvojem.
Zaključak:
Unaprijeđene AI tehnologije nude značajne prednosti, ali uvode niz rizika koji se moraju pažljivo upravljati. Pravni okviri, etička razmatranja, svijest korisnika i proaktivni pristup kibernetičkoj sigurnosti ključni su elementi u iskorištavanju snage AI-a dok se ublažavaju njegove opasnosti.
Za više informacija o napretku u AI-u, možete posjetiti glavne domene vodećih razvijatelja AI-a:
– OpenAI
– Google
The source of the article is from the blog japan-pc.jp