Prema visokom dužnosniku Nacionalne sigurnosne agencije (NSA), hakeri i propagandisti sve više koriste generativnu umjetnu inteligenciju (AI) chatbotove kako bi djelovali uvjerljivije pred engleskim govornicima. Na Međunarodnoj konferenciji o kibernetičkoj sigurnosti, direktor sajber sigurnosti NSA-e Rob Joyce otkrio je da kriminalci i hakeri povezani s obavještajnim agencijama stranih država koriste AI chatbotove poput ChatGPT-a za simuliranje tečnog komuniciranja na engleskom jeziku.
Joyce je istaknuo da su ovi chatbotovi značajno unaprijedili svoje sposobnosti na engleskom jeziku, što ih čini vještijima u stvaranju gramatički ispravnog i uvjerljivog sadržaja. Ova poboljšanja predstavljaju značajnu zabrinutost jer se operacije hakiranja često oslanjaju na phishing sheme kako bi zavarale pojedince i otkrile njihove osobne informacije. Uz pomoć generativne AI, hakeri mogu poboljšati i stvarati svoje komunikacije, čineći tako sve teže prepoznati zlonamjernu online aktivnost.
Korištenje generativne AI posebno je olakšalo online propagandne kampanje koje organiziraju države kao što je Rusija. Ove kampanje uključuju stvaranje lažnih računa koji pogrešno predstavljaju američke korisnike. Iskorištavanjem AI tehnologije, hakeri mogu bez problema stvarati ubjedljiv sadržaj na engleskom jeziku, dodatno pojačavajući svoj negativan utjecaj.
Iako Joyce nije otkrio nikakvu specifičnu AI tvrtku, istaknuo je da je ovaj problem raširen i utječe na sve glavne models AI. Naime, tvrtke poput OpenAI-a i Googlea nude AI chatbotove poput ChatGPT-a i Barda, koji su demonstrirali sposobnost stvaranja uvjerljivih phishing emailova.
Iako neke usluge generativne AI tvrde da zabranjuju korištenje svojih proizvoda u kriminalne svrhe, provođenje pravila ostaje izazovno. Izvješća su pokazala da je relativno lako manipulirati AI chatbotovima kako bi generirali zavaravajući sadržaj.
Međutim, AI nije samo alat za zlonamjerne aktere; pokazuje se kao vrijedna sredstvo za obranu u kibernetskoj sigurnosti. NSA je nedavno osnovala Centar za sigurnost AI, s ciljem razvoja najboljih praksi i okvira za rizik kako bi se promovirala sigurna upotreba AI mogućnosti u okviru nacionalne sigurnosti i obrambene industrije. Korištenjem AI, strojnog učenja i dubinskog učenja, agencije za kibernetsku sigurnost mogu učinkovitije identificirati i spriječiti zlonamjerne aktivnosti.
S obzirom na stalni razvoj AI, ključno je da i stručnjaci za sigurnost i razvijatelji AI prepoznaju implikacije i kontinuirano poboljšavaju zaštitu od prijetnji kibernetske sigurnosti koje su omogućene pomoću AI tehnologije.
The source of the article is from the blog tvbzorg.com