Розвиток генеративного штучного інтелекту призвів до зростання маніпуляцій відео з участю облич різноманітних зірок, з відомим збільшенням таких випадків майже в чотири рази лише за останній рік. Комітет для перегляду трансляційних комунікацій (КТК) вжив провакцийних заходів проти поширення таких ‘сексуально зманіпульованих відео’, закликаючи виправити щонайменше 4 691 випадок.
Засвідчуючи серйозність ситуації, КТК зауважив цей значний приріст маніпульованого контенту, особливо ті випадки, де облича K-Pop зірок та акторів накладають на контент для дорослих, що розсилається переважно через зарубіжні веб-сайти для дорослих. Інтенсивний моніторинг, який було почато з січня по квітень, привів комісію до вимог щодо виправлення цих випадків, які представляють зростання на 3 745 випадків порівняно з аналогічним періодом попереднього року.
Комітет висловив серйозні стурбованість, визнаючи, що під прицілом опиняються не лише знаменитості, а й неповнолітні та громадськість. Зловживання технологією для поширення діпфейків здається насправді надто швидким. У зв’язку з цим, вони підкреслили важливість бути надзвичайно обачними щодо особистої інформації, яку можна поділити в соціальних мережах та інших онлайн-платформах, і закликали негайно повідомляти КТК, якщо виявлені такі ‘сексуально зманіпульовані відео’.
Комітет зобов’язався до концентрованій стратегії інтенсивного моніторингу та оперативного вирішення, щоб блокувати сексуально неправдиві матеріали та веб-сайти, які їх поширюють, тим самим зменшуючи можливі шкоди від цих порушень.