В революционен ход, водещи технологични компании се събират, за да се справят с нарастващата загриженост около AI-генерираните deepfake в контекста на демократичните избори. На конференцията по сигурност в Мюнхен ръководни служители от Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok и още дванадесет компании, включително X на Илон Мъск, подписаха доброволен пакт за въвеждане на „разумни предпазни мерки“ срещу използването на AI инструменти с цел нарушаване на изборите по целия свят.
Въпреки че споразумението е предимно символично, то подчертава ангажимента на компаниите за борба с все по-реалистичните AI-генерирани изображения, аудио и видео, които измамят или променят външния вид, гласа или действията на политическите кандидати, изборните служители и другите ключови участници в демократичните избори. Забележително е, че споразумението има за цел да се заеме с разпространението на лъжлива информация до избирателите относно избирателните закони и процедури.
В противоречие с очакванията, компаниите не са се обвързали да забранят или премахват deepfake. Вместо това споразумението определя стратегии за откриване и маркиране на измамни AI съдържание в техните платформи. Компаниите ще споделят най-добри практики и ще реагират бързо и пропорционално в случай, че такова съдържание започне да се разпространява.
Въпреки че ангажиментите, описани в споразумението, не са с обвързващи изисквания, те демонстрират колективно усилие между технологични компании за справяне с проблема. Въпреки това, активистите за привеждането на демокрация и органите за наблюдение могат да считат, че неяснотата на ангажиментите е разочароваща и се налагат по-силни гаранции.
Важно е да се признае, че компаниите имат личен интерес да гарантират, че техните инструменти не се злоупотребяват за подкопаване на свободните и справедливи избори. Споразумението признава, че всяка компания има собствена политика за съдържание, пригодена към техните платформи, насърчавайки свобода на изразяване и избягване на един размер за всички подход.
Споразумението идва в критичен момент, тъй като повече от 50 държави ще проведат национални избори през 2024 година. Вече се наблюдава вмешателство в изборите, генерирано от AI в някои държави, включително опити да се обезсърчи гласуването чрез AI робоколи и разпространение на AI-генерирани аудио записи, имитиращи кандидати. Законодатели, проверяващи факти и платформи за социални медии се сблъскват с предизвикателството да идентифицират и намалят влиянието на AI-генерираната dezinformacija.
Въпреки че споразумението предимно се фокусира върху deepfake, генериран от AI, то признава, че съществуват и други форми на манипулативно съдържание, известни като „cheapfake“, които представят подобна заплаха. Компаниите в социалните мрежи вече предприемат стъпки за отблъскване на измамни публикации чрез съществуващите си политики и премахване на dezinformacija, свързана с избирателните процеси. Въпреки това, са необходими по-комплексни действия за борба с дезинформацията, като разработване на системи за препоръка на съдържание, които отдават приоритет на точността пред залюбването.
С главата на технологичните компании нареждани, споразумението служи като важна отправна точка за сътрудничество и иновации в борбата с AI-генерираните deepfake. То е свидетелство за споделена отговорност между технологичните компании, правителствата и организациите на гражданското общество при съхраняването на интегритета на демократичните избори в света.
The source of the article is from the blog agogs.sk