Водяний знак – один з ключових інструментів на шляху боротьби зі шкідливою інформацією, яка з’являється в Інтернеті завдяки штучному інтелекту. Однак, експерти та огляд, проведений НБС Ньюс, показали, що поточні методи водяних знаків далекі від ефективності. Хоча компанії, такі як Мета та Адобе, приєдналися до стандартів водяних знаків, результати виявилися несподівано слабкими.
Однією з основних проблем із застосуванням водяних знаків є їх вразливість до обхідних дій. Сучасні технології водяних знаків, як правило, ґрунтуються на двох складових: невидимому теґу в метаданих зображення та видимій мітці, налагодженій на зображення. На жаль, як невидимі водяні знаки, так і видимі мітки легко можуть бути видалені за допомогою простих методів, таких як зроблення скріншота та обрізка.
Іншою проблемою є те, що головні соціальні мережі та технологічні компанії не зобов’язались застосовувати мітки на вмісті, що створений за допомогою штучного інтелекту. Це відсутність жорстких вимог обмежила вплив зусиль з водяних знаків. Наприклад, коли Мета-керівник Марк Цукерберг оновив обкладинку свого Facebook зображенням, створеним штучним інтелектом, мітка, що вказувала на його походження від штучного інтелекту, не була видимою для користувачів, якщо вони не клікали на фото. Це показує недоліки поточної технології водяних знаків.
Щоб вирішити цю проблему, Мета оголосила у лютому про свій план ідентифікації контенту, згенерованого штучним інтелектом, за допомогою технології водяних знаків та маркування такого контенту на Facebook, Instagram та Threads. Однак навіть Мета визнає, що водяні знаки не є бездоганними та їх легко піддавати маніпуляціям. Компанія планує впровадити більш жорсткі стандарти у найближчі місяці, вимагаючи від користувачів зазначати контент, згенерований штучним інтелектом, та накладати покарання за невиконання.
Видимість міток водяних знаків також створює проблеми. Видалення видимих водяних знаків займає всього кілька секунд, що підриває їхню безпеку, яку вони повинні забезпечувати. Це породжує питання про надійність вода}/#{watermarking}}водяних знаків у перевірці автентичного вмісту та точної ідентифікації медіа, створеного за допомогою штучного інтелекту.
Крім того, наприклад серед зусиль великих технологічних гравців, таких як Мета, Google, Microsoft та Adobe, прийняти спільні стандарти водяних знаків, існує тисячі моделей штучного інтелекту, доступних для завантаження, які не відповідають цим стандартам. Це створює значну пропаст у боротьбі зі шкідливою інформацією, породжуваною штучним інтелектом.
Обмеження, пов’язані з водяним знаком, стають особливо очевидними, коли ми розглядаємо поширення діпфейків. Діпфейки – це медіа, створене штучним інтелектом, яке часто використовується для атак на осіб за допомогою маніпульованих зображень та відео без їхньої згоди. Водяні знаки самі по собі не можуть вирішити складності та етичні виклики, які виникають від діпфейків.
Перш ніж закінчити, слід відзначити, що хоча водяний знак показав свій потенціал як інструмент в боротьбі зі шкідливою інформацією, у практичному застосуванні він не виправдовує сподівань. Його вразливості, простота видалення та відсутність універсального застосування обмежують його ефективність. Аби справді впоратися з викликами медіа, створеного штучним інтелектом, потрібен багатогранний підхід, що об’єднує в собі передові технології, суворі закони та громадську свідомість.
The source of the article is from the blog maltemoney.com.br