Несколько крупных технологических компаний объединились, чтобы решить растущую проблему использования искусственного интеллекта (ИИ) для нарушения демократических выборов. Руководители компаний, таких как Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI и TikTok, подписали добровольный пакт о принятии «разумных мер предосторожности» для предотвращения распространения ИИ-созданных deepfakes, которые стремятся обмануть избирателей.
Новая рамочная программа, объявленная на мюнхенской конференции по безопасности, сосредотачивается на борьбе с все более реалистичными ИИ-созданными изображениями, аудио и видео, которые изменяют или подделывают внешность, голос или действия политических кандидатов и чиновников, участвующих в выборах. Вместо того чтобы обязываться к запрету или удалению deepfakes, соглашение определяет методы обнаружения и маркировки обманчивого контента, созданного с применением ИИ, когда он размещается или распространяется на их платформах. Компании также будут обмениваться bewt-практиками и оперативно реагировать, чтобы предотвратить распространение такого контента.
Хотя обязательства в рамках соглашения не такие строгие, как надеялись некоторые сторонники, это шаг в правильном направлении. Неопределенность обязательств и отсутствие обязательных требований, вероятно, привлекли широкий спектр компаний-участниц. Однако организации, такие как <>, акцентируют внимание на необходимости непрерывного мониторинга для того, чтобы гарантировать, что компании соблюдают свои обещания.
Соглашение также подчеркивает важность прозрачности и образования. Платформы призваны обеспечивать сохранение образовательного, документального, художественного, сатирического и политического выражения, одновременно открывая свои политики и обучая публику распознавать и избегать дезинформации, созданной искусственным интеллектом.
Поскольку более 50 стран готовятся к национальным выборам в 2024 году, время этого соглашения критично. Нарушения выборов, созданные при помощи ИИ, уже наблюдались, включая случаи AI-робоколлов, имитирующих политические фигуры, и распространение ложной информации при помощи ИИ-генерируемых аудиозаписей. Принимая ранние шаги по предотвращению рисков и последствий дезинформации, созданной ИИ, эти технологические компании работают над обеспечением безопасности демократических выборов по всему миру.
Включение компаний, таких как X, инициатива Илона Маска, добавляет удивления этому соглашению. Маск ранее выражал поддержку свободы слова и ограничил команды модерации контента. Однако его участие в этом соглашении указывает на признание потенциального вреда, причиняемого дезинформацией, созданной ИИ, и готовность сотрудничать в борьбе с этим.
Хотя это соглашение может быть не всесторонним, оно служит первоначальным каркасом для сотрудничества и создает возможности для дальнейших обсуждений и улучшений в борьбе с злоупотреблением ИИ в демократических процессах.
The source of the article is from the blog smartphonemagazine.nl