Framgangen av generativ AI har ført til ein bølge i manipulering av videoar med berømte personar, med ein rapportert nær firdobling av slike hendingar berre det siste året. Kringkastingskommunikasjonskontrollutvalet (BCRC) har teke avgjerande handling mot distribusjonen av desse «seksuelt fabrikkerte videoane», og bede om retting av urovekkande 4,691 tilfelle.
For å markere alvorlegheita av situasjonen merka BCRC denne store auken i manipulert innhald, særleg dei som overlagrar K-pop-idolar og skodespelarar sine ansikt på vakseninnhald, utbreidd hovudsakleg gjennom utanlandske voksensider. Intensiv overvaking starta frå januar til april har ført til at utvalet kravde rettingar i desse tilfella, som er ein auke på 3,745 saker frå same periode året før.
Komiteen uttrykte djup uro, og erkjente at det ikkje berre var kjendisar som vart målretta, men òg mindreårige og den generelle offentlegdomen. Misbruk av teknologi for å spreie dypfakes viser teikn på å auke i ei alarmerande hast. Difor vart det understreka viktigheita av å være svært forsiktig med personinformasjon som blir delt på sosiale medium og andre nettplattformer, og det vart oppmoda til umiddelbar rapportering til BCRC om slike «seksuelt fabrikkerte videoar» blir møtt på.
På førespurnad har BCRC forplikta seg til ei konsentrert strategi med intens overvaking og rask avgjerd for å blokkere seksuelt falskt materiale og nettstadane som distribuerer dei, og dermed minske den potensielle skaden forårsaka av desse brota.