Napredovanje generativne umjetne inteligencije dovelo je do porasta manipulacije videozapisa s likovima poznatih osoba, s izvješćem o gotovo četverostrukom povećanju takvih slučajeva samo u protekloj godini. Povjerenstvo za pregled radijskog i televizijskog emitiranja (BCRC) poduzelo je odlučne mjere protiv distribucije ovih ‘seksualno izmišljenih videozapisa’, tražeći ispravke u ukupno 4.691 slučaju.
Uzimajući u obzir ozbiljnost situacije, BCRC je primijetio značajan porast manipuliranog sadržaja, posebice onih koji stavljaju lica K-Pop idola i glumaca na odrasli sadržaj, koji se većinom distribuira putem stranih odraslih internetskih stranica. Intenzivno praćenje pokrenuto od siječnja do travnja dovelo je povjerenstvo do zahtjeva za ispravcima u tim slučajevima, što predstavlja porast od 3.745 slučajeva u odnosu na isto razdoblje prethodne godine.
Povjerenstvo je izrazilo ozbiljne zabrinutosti, priznavajući da nisu samo poznate osobe bile meta, već i maloljetnici i opća javnost. Zloupotreba tehnologije za širenje deepfake sadržaja čini se da se ubrzava alarmantnom brzinom. S obzirom na to, istaknuli su važnost izuzetne opreznosti u vezi s osobnim podacima koji se mogu dijeliti na društvenim mrežama i drugim internetskim platformama, te pozvali na odmah prijavljivanje BCRC-u ako se naiđe na ‘seksualno izmišljene videozapise’.
Gledajući prema budućnosti, BCRC se obvezao na koncentriranu strategiju intenzivnog praćenja i brze presude kako bi blokirao seksualno lažan materijal i internetske stranice koje ga distribuiraju, čime bi se umanjila potencijalna šteta uzrokovana tim kršenjima.