Мета Платформи, майчинската компания на Facebook и Instagram, обяви плановете си да открива и маркира изображения, генерирани от изкуствен интелект (AI), предоставен от други компании. Целта на компанията е да използва невидими маркери, вградени в файловете с изображения, за да разграничи реални фотографии от цифрово създадено съдържание. Тази система за маркиране ще се прилага за всякакво съдържание, което носи маркерите и се споделя в платформите на Мета.
Въвеждането на тази система за маркиране е усилие да се се справи с голям проблем на лъжливото и фалшиво съдържание, произведено от генеративни AI технологии. Тези технологии имат възможността да създават изображения, които изглеждат реалистични, в отговор на прости подсказки, което води до безпокойства за потенциалните вреди, свързани със злоупотребата им. Инициативата за маркиране на Мета е част от по-голямо движение в технологичната индустрия да се установят стандарти и да се намалят отрицателните въздействията на генеративния AI.
Председателят на Мета за глобални въпроси, Ник Клег, изрази увереност в способността на компанията да маркира надеждно AI-генерирани изображения. Въпреки това, той призна, че разработката на подобни инструменти за аудио и видео съдържание е сложна. Въпреки че технологията за маркиране на звука и видеото все още не е напълно зряла, Мета планира да изисква от индивидите да маркират своето променено аудио и видео съдържание, със санкции за неподчинение.
Струва си да се отбележи, че инициативата за маркиране на Мета не включва писмен текст, генериран от AI инструменти като ChatGPT. Клег заяви, че в момента няма подходящ механизъм за маркиране на такъв вид съдържание. Освен това остава неясно дали Мета ще прилага маркировки върху генеративно AI съдържание, споделяно в защитената му мултимедийна платформа, WhatsApp.
Недавната проверка на политиката на Мета относно лъжливо променените видеоклипове от неговата независима надзорна комисия стимулира Клег да признае необходимостта от подобрени мерки. Комисията препоръча маркиране вместо премахване на такова съдържание. Клег се съгласи с оценката на комисията, като заяви, че съществуващата политика на Мета вече не е подходяща, имайки предвид нарастващата присъствие на синтетично и хибридно съдържание. Чрез установяване на партньорство за маркиране с други технологични компании, Мета се стреми да демонстрира своята ангажираност с решаването на тези въпроси.
В заключение, решението на Мета Платформи да маркира AI-генерирани изображения представлява важна стъпка за борба с дезинформацията и подобряване прозрачността на нейните платформи. Докато индустрията на технологиите продължава да се бори с предизвикателствата, представени от генеративните AI технологии, такива съвместни усилия като инициативата за маркиране стават решаващи за формирането на отговорно използване на изкуствения интелект.
The source of the article is from the blog myshopsguide.com