Avansul inteligenței artificiale generative a condus la o creștere a manipulării videoclipurilor ce prezintă asemănări cu celebrități, cu un raport despre un aproape cvadruplare a unor astfel de cazuri doar în ultimul an. Comitetul de Revizuire a Comunicării de Transmitere (BCRC) a luat măsuri decisive împotriva distribuirii acestor ‘videoclipuri fabricate sexual’, solicitând corectarea a unui copleșitor de 4,691 de cazuri.
Subliniind gravitatea situației, BCRC a remarcat această creștere substanțială a conținutului manipulat, în special a celor care suprapun fețele idolilor K-Pop și a actorilor pe conținut pentru adulți, diseminate în principal prin site-uri străine pentru adulți. Monitorizarea intensivă inițiată de la ianuarie până în aprilie a condus comisia să ceară corectări în aceste cazuri, care reprezintă o creștere de 3,745 de cazuri față de aceeași perioadă din anul precedent.
Comitetul a exprimat îngrijorări grave, recunoscând că nu doar celebritățile erau vizate, ci și minorii și publicul larg. Abuzul tehnologic pentru diseminarea deepfake-urilor pare să escaladeze la o rată alarmantă. În lumina acestei situații, ei au subliniat importanța de a avea o grijă extrem de mare în ceea ce privește informațiile personale care pot fi distribuite pe rețelele de socializare și alte platforme online și au îndemnat la raportarea imediată la BCRC în cazul în care se întâlnesc astfel de ‘videoclipuri fabricate sexual’.
Privind în viitor, BCRC s-a angajat să adopte o strategie concentrată de monitorizare intensivă și de judecată rapidă pentru a bloca materialele false sexual și site-urile care le distribuie, reducând astfel potențialul de rău cauzat de aceste încălcări.