Microsoft je otkrio zabrinjavajuću činjenicu o sve većem korištenju generativne umjetne inteligencije (AI) od strane zemalja s napetim odnosima prema Sjedinjenim Državama. Tehnološki div je otkrio da protivnici poput Irana, Sjeverne Koreje, Rusije i Kine koriste AI alate, razvijene od strane Microsofta i OpenAI, kako bi organizirali velike kibernetičke napade protiv SAD-a.
Iako su Microsoft i OpenAI uspjeli identificirati i spriječiti neke od ovih prijetnji, tvrtka je istaknula potrebu javnog izlaganja ovih tehnika u ranoj fazi razvoja. Stručnjaci za kibernetičku sigurnost upozoravaju da korištenje generativne AI u ofenzivnim kibernetičkim operacijama predstavlja značajnu prijetnju nacionalnoj sigurnosti.
Tradicionalno, tvrtke za kibernetičku sigurnost koriste strojno učenje u obrambene svrhe. Međutim, pojava velikih jezičnih modela (LLM), predvođenih OpenAI-evim ChatGPT, intenzivirala je igru mačke i miša između obrambenih i zlonamjernih aktera. Rivalne zemlje sve više koriste LLM-ove kako bi ojačale svoje sposobnosti u probijanju mreža i provođenju operacija utjecaja.
U svom izvješću, Microsoft je istaknuo nekoliko slučajeva gdje su računi i sredstva različitih grupa onemogućena. To uključuje kibernetičku špijunsku grupu Kimsuky iz Sjeverne Koreje, Iranovu Revolucionarnu gardu, rusku vojnu obavještajnu jedinicu GRU Fancy Bear i kineske kibernetičke špijunke grupe Aquatic Panda i Maverick Panda.
Posebna zabrinutost leži u potencijalu generativne AI za poboljšanje zlonamjerne socijalne inženjeringa. Microsoftovo izvješće upozorava da AI-generirane deepfake slike i kloniranje glasa mogu značajno narušiti demokratske procese, posebno s nadolazećim izborima u više od 50 zemalja.
Iako OpenAI tvrdi da njihov trenutni GPT-4 model ima ograničene mogućnosti za zlonamjerne kibernetičke zadatke, stručnjaci očekuju napretke u ovom području. Kritičari tvrde da je puštanje velikih jezičnih modela bez odgovarajućih sigurnosnih razmatranja bilo brzopletno i neodgovorno. Neki stručnjaci za kibernetičku sigurnost pozivaju Microsofta da se usredotoči na poboljšanje sigurnosti LLM-ova umjesto da prodaje obrambene alate.
Kako prijetnje od AI-a i LLM-ova nastavljaju evoluirati, jasno je da imaju potencijal postati moćno oružje u arsenalu svake vojne države. Imperativ je za vlade i tehnološke tvrtke da daju prioritet razvoju sigurnih AI sustava i uspostave čvrste obrambene strategije radi zaštite nacionalnih interesa.
The source of the article is from the blog myshopsguide.com