Изкуствен интелект (AI) се е превърнал във все по-неразделна част от нашия живот, трансформирайки различни индустрии и променяйки начина, по който взаимодействаме с технологиите. Въпреки невероятните си постижения, AI е довел и до едно загрижаващо явление – нарастването на deepfakes.
Дийпфейкс се отнасят до манипулирано видео, аудио и изображения, създадени или променени с помощта на технологията на изкуствения интелект с цел измама на зрителите. Тези манипулативни медии могат да бъдат използвани за различни цели, вариращи от разпространяване на дезинформация до злонамерено манипулиране на общественото мнение. За реакция на рисковете, свързани с deepfakes, социалният медиен гигант Мета, бивш Facebook и Instagram, обяви, че ще започне да маркира медии, генерирани от AI, започвайки от май.
Този ход е част от усилието на Мета да успокои потребителите си и правителствата относно потенциалните опасности на deepfakes. Вместо да премахва манипулирани изображения и аудио, които не нарушават правилата му, Мета се е насочил към маркиране и контекстуализация. Този подход има за цел да намери баланс между защитата на свободата на словото и решаването на растящата загриженост около манипулираните медии.
Под новата система за маркиране на Мета, съдържанието, идентифицирано като „Произведено с помощта на AI“, ще бъде ясно маркирано, което позволява на потребителите да разпознаят медия, генерирана или променена с помощта на изкуствения интелект. Допълнително, съдържание, което се счита за с висок риск да заблуждава обществеността, ще получи по-изразителна маркировка.
Чрез предоставянето на прозрачност и допълнителен контекст, Мета се надява да се справи по-ефективно с въпроса на deepfakes. Според Моника Бикерт, вицепрезидент на политиката за съдържание на Мета, новите техники за маркиране ще отидат по-далеч от манипулираното съдържание, препоръчано от надзорния съвет на Мета. Този стъпка съответства на споразумение, направено между големите технологични гиганти и участници в областта на изкуствения интелект, за сътрудничество в борбата срещу манипулираните медии.
Въпреки това експертите предупреждават, че въпреки че идентифицирането на AI съдържание е положителна стъпка, все още може да има дупки. Николас Годеме, директор на AI в Onepoint, подчертава, че софтуер с отворен код, например, може да не винаги използва техниката за напиране на водни знаци, приета от по-големите участници в AI. Тази разлика може потенциално да подкопае ефективността на системата за маркиране.
Въвеждането на системата за маркиране на Мета ще се осъществи в две фази, започвайки с маркирането на AI-генерирано съдържание през май 2024 г. Премахването на манипулираните медии само на базата на старата политика ще спре през юли. Според новите стандарти, AI-генерираното съдържание ще остане на платформата, освен ако не нарушава други правила, като например омразния говор или намеса в изборния процес.
Необходимостта от прозрачност и отчетност относно AI-генерираните медии става все по-очевидна. Недавни примери на убедителни deepfakes подобаващо повдигнаха въпроси относно потенциалното злоупотреба с технологията на AI за цели на дезинформация. Реакцията на Мета на тези опасения показва ангажимента му да се справи с въпроса, запазвайки баланс между свободата на словото и защитата на потребителите.
Докато AI продължава да напредва, е от съществено значение за обществото да се адаптира и да разработи стратегии, които да предпазят от злоупотребата с тази мощна технология. Прозрачността, сътрудничеството между играчите в индустрията и участието на наблюдателски организации ще бъдат от съществено значение за запазването на интергритета и доверието в нашите дигитални пейзажи.
Често задавани въпроси (ЧЗВ)
The source of the article is from the blog anexartiti.gr