Количество фотографий и видеозаписей, на которых были использованы передовые технологии Deepfake AI, вызвало волну недоумения на платформах социальных медиа. Тематическое мероприятие Met Gala «Сад времени», проведенное в Нью-Йорке, стало неосознанным холстом для этого высокотехнологичного обмана.
Технология Deepfake, инструмент манипуляции на основе искусственного интеллекта, искажает медиа-контент, чтобы заставить людей казаться так, будто бы они делают или говорят то, чего на самом деле не делали. Этот современный трюк ставит под угрозу, делая чрезмерно легким для общественности стать жертвой мошенничества.
Интернет был заполнен изображениями, которые якобы показывали Кэти Перри на Met Gala, собравшими миллионы обращений от не подозревавших фанатов на различных платформах, таких как X, TikTok и Instagram. Обман был настолько убедительным, что даже мать Перри поверила, что ее дочь присутствовала на роскошном мероприятии. Чтобы прояснить ситуацию, Кэти Перри выпустила видео из своей студии записи, подтверждая свое отсутствие на мероприятии.
Не только изображение Перри было захвачено; широко распространенный пост на платформе X показал Рианну в волнующем платье на Met Gala, хотя на самом деле она оставалась дома с гриппом. Точно так же Леди Гага, не посещавшая Met Gala с 2019 года, была ложно показана на красной дорожке благодаря злоупотреблению искуственным интеллектом.
1. Что такое deepfakes?
Deepfakes — это гиперреалистичные видео- или аудиозаписи, использующие искусственный интеллект (AI) и машинное обучение, в частности генеративные противоборствующие сети (GAN), для создания фальшивого контента. Эта технология убедительно может заменить подобие и голос кого-то в цифровых медиа, делая вид, что эта личность сказала или сделала что-то, чего на самом деле не имела.
2. Какие вызовы представляют собой deepfakes?
Основной вызов заключается в возможности злоупотребления в создании убедительно ложных медиа, которые могут использоваться для клеветы на индивидуумов, распространения дезинформации, манипулирования фондовыми рынками или воздействия на общественное мнение во время выборов. Убедительная природа deepfakes делает сложным для людей определить реальный контент от фальшивого, способствуя климату недоверия и неопределенности.