Дигиталните двойници на Оля Лук говорят на мандарин и одобряват руски стоки.
Украинската студентка и блогърка Олга Лук откри AI-генерирани аватари на себе си в китайски социални медии, които пропагандират силно приятелство между Пекин и Москва, както и рекламират руски продукти. 21-годишната момиче беше шокирана откакто никога не е говорила думите, които й се приписват на аватара.
Лук настоява, че тази ситуация е абсурдна, тъй като тя е от Украйна, нация, в конфликт с Русия откакто започна пълномащабната война през 2022 година. Използването на украинец за руска пропаганда само увеличава иронията.
Живееща в Мюнхен и учеща в Университета на Пенсилвания, видео каналът на Лук обикновено се фокусира върху психичното здраве. Все пак, последователите й я информираха, че са я виждали да рекламира руски продукти в китайските мрежи.
Този образ не беше Лук, а руска личност, използваща нейното лице и говореща свободно на мандарин – език, който тя никога не е изучавала. Тези AI-клонирани аватари, наречени Наташа, София, Април или Стейси, в зависимост от платформата, бяха посветени главно на пропагандирането на сино-руски приятелство и руската хранителна промишленост, което Лук намира особено обидно.
AI въплъщението на Лук беше забелязано във видеоклипове на Douyin и Bilibili, като заявяваше, че Русия е по-напреднала нация и дразнеше зрителите да купуват „аутентични руски стоки“ от онлайн магазини. Един отличен профил, „Вносни храни от Наташа“, събра повече от три милиона последователи.
HeyGen, отговорният технология зад клоните на Лук, предприема действия.
След като беше идентифицирала около 35 фалшиви акаунта, използващи нейното подобие, Лук откри, че нейните клони бяха създадени с помощта на HeyGen, известно с реалистичните си дигитални аватари, генерация на гласове и мултиезиково видео превод. След повествованието, споделено от нейния хубавник в социалните медии, компанията призна близо 4,900 неоторизирани клипове, показващи Лук, и увери, че виновниците са блокирани.
Производството на дийпфейкове и измами във връзка със здравето са широко разпространени въпреки регулациите на китайската AI.
Експертите предупреждават, че лица като Лук могат ненамерено да нарушат китайското законодателство, застрашавайки сигурността си. Изправянето пред нарастващия синтетичен медии и неговите последици остава предизвикателство за целия свят, като различията в законодателните подходи подкопават колективното действие. Забележително е, че Съединените щати и Китай са решаващи при установяването на стандарти в индустрията, но постигането на споразумение между такива участници е сложно предприятие.
Въпреки че Лук се обявява за продължаване на онлайн присъствие, нейният случай подсилва осъзнаването за силата на онлайн измамата. Някои китайски потребители й помогнаха да разкрие фалшивите след като се свърза с тях. Историята на блогъра представлява доказателство за силата на цифровата общност и необходимостта от по-голяма отговорност пред новите технологии.
При разглеждането на темата за AI клони, използвани за пропаганда, възникват няколко ключови момента, въпроси и контроверзии, както и предимства и недостатъци, които трябва да бъдат взети предвид за пълно разбиране на последствията.
The source of the article is from the blog oinegro.com.br