Kako pretražujemo svoje društvene mreže, postaje sve češće naići na slike i videozapise koji izgledaju kao djelo talentiranih umjetnika. Međutim, pažljivijim pogledom otkrivamo da je većina ovog sadržaja rezultat umjetne inteligencije (UI), a ne ljudske kreativnosti. Ljudi koriste UI za generiranje realističnih slika sebe pored složenih drvoreza, što im donosi tisuće lajkova i dijeljenja. To možda djeluje bezopasno, ali prema FBI-ju, zloupotreba tehnologije umjetne inteligencije može imati ozbiljne posljedice.
FBI upozorava da se u području slika i videozapisa UI može koristiti za stvaranje lažnog sadržaja u zlonamjerne svrhe. Primjeri uključuju stvaranje lažnih videa političara radi manipulacije izbora, korištenje neprihvatljive pornografije za nanošenje štete pojedincima ili čak zavaravanje nekoga da izvrši financijski prijenos. Potencijal za zloupotrebu je velik, a posljedice mogu biti razorne. Ovo nije nov fenomen, jer tijekom povijesti vidimo različite oblike medija kako se manipuliraju u štetne svrhe. Međutim, ono što izdvaja ovo razdoblje je brzi razvoj i napredak UI.
Iako se prijevara putem sintetičkih medija može činiti kao nova prijetnja, postojeći zakoni pružaju policijskim agencijama alate za uhićenje i progon onih koji nanose štetu drugima upotrebom UI-generiranog sadržaja. Zakoni o prijevari se primjenjuju bez obzira na sredstva korištena, a FBI ističe da neprestano surađuju s lokalnim, saveznim i međunarodnim partnerima u provedbi zakona kako bi se borili protiv ove prijetnje i zaštitili žrtve.
S povećanom dostupnošću tehnologije UI, postalo je lakše i zlonamjernim subjektima i stručnjacima za kibernetičku sigurnost stvarati i otkrivati manipulirani sadržaj. Znakovi manipulacije UI mogu uključivati distorzije, nekonzistentnosti ili neprirodne pokrete na slikama ili videozapisima. Primjetno neprirodno kimanje glave ili trupa, nesinkronizirano kretanje lica i usana te korištenje statike kako bi se sakrili artefakti u zvučnim datotekama također su pokazatelji manipulacije.
Kako biste se zaštitili od prijevara u kojima netko imitira glas voljene osobe kako bi zatražio novac ili naveo opasnost, FBI sugerira uspostavljanje “izazovne riječi” unutar svoje obitelji. Ta fraza može poslužiti kao metoda provjere prilikom primanja takvih poziva.
FAQ:
Što je sintetički medij?
Sintetički medij odnosi se na bilo koji oblik sadržaja, uključujući slike, videozapise, zvuk ili tekst, koji je stvoren ili manipuliran korištenjem umjetne inteligencije.
Koji su znakovi manipulacije UI u medijima?
Znakovi manipulacije UI uključuju distorzije, nekonzistentnosti, neprirodne pokrete ili nesinkronizirane audio i vizualne tragove.
Kako se mogu zaštititi od prijevara koje uključuju sintetičke medije?
Uspostavljanje “izazovne riječi” unutar svoje obitelji može pomoći u provjeri identiteta osoba koje tvrde da su u opasnosti ili trebaju financijsku pomoć.
Definicije:
Umjetna inteligencija (UI): Tehnologija koja omogućuje mašinama obavljanje zadataka koji bi inače zahtijevali ljudsku inteligenciju.
Zloupotreba tehnologije UI: Nepravilna ili zlonamjerna primjena umjetne inteligencije u štetne svrhe.
Sintetički medij: Sadržaj, poput slika, videozapisa, zvuka ili teksta, koji je generiran ili izmijenjen korištenjem umjetne inteligencije.
Neprihvatljiva pornografija: Također poznata kao osveta pornografija ili zlostavljanje putem slika, odnosi se na distribuciju eksplicitnog ili intimnog sadržaja bez pristanka osobe koja je prikazana.
Zakoni o prijevari: Pravne regulacije koje se bave i kažnjavaju obmanjujuće ili nepoštene postupke usmjerene prema financijskoj dobiti.
Za više informacija o sintetičkim medijima i njihovim implikacijama:
Link na FBI-jev članak o alatu za sintetičke medije
Link na blog post OpenAI-a o Image GPT
Pogledajte video o sintetičkim medijima
The source of the article is from the blog elblog.pl