По мере приближения сезона выборов в Индии возрастают опасения относительно влияния глубоких фейков, созданных с помощью искусственного интеллекта (ИИ), на политические кампании. Глубокие фейки — это синтетические и реалистичные изображения и видео, которые стали более распространенными и утонченными в последние годы. Они могут изменять выступления политиков и внешний вид, вызывая сомнения и недоверие у избирателей.
С возрастанием доступа к дешевым мобильным данным и высокой пенетрации смартфонов в Индии существуют опасения, что глубокие фейки могут быть распространены через платформы, такие как WhatsApp, оказывая влияние на решения избирателей или заставляя их задуматься о значимости своих голосов.
Чтобы решить эти проблемы, Министерство электроники и информационных технологий Индии недавно выпустило рекомендации для компаний, занимающихся генеративным искусственным интеллектом. В них говорится, что если эти компании предлагают ИИ-системы, которые находятся на стадии тестирования или недостоверны, они должны получить явное разрешение от правительства и соответствующим образом отметить результаты работы. Цель состоит в предотвращении создания незаконного или вводящего в заблуждение контента, который мог бы подорвать избирательный процесс.
Тем не менее, эти рекомендации вызвали бурные протесты как со стороны национальных, так и международных игроков в области ИИ. Многие аргументируют, что это тормозит инновации и свободу слова. Министр по делам электроники и информационных технологий Раджив Чандрашекар уточнил, что эти рекомендации не распространяются на стартапы, что принесло определенное облегчение. Однако опасения по поводу злоупотребления технологией ИИ сохраняются.
В ответ на эти опасения Сентил Наягам, основатель стартапа Muonium AI, разработал «Манифест коалиции этичного ИИ» перед выборами. Этот манифест направлен на то, чтобы гарантировать, что ИИ-технологии используются ответственно и не манипулируют выборами, не распространяют дезинформацию и не разрушают доверие к политическим институтам. Наягам обратился к около 30 компаниям, из которых две уже подписали манифест, а три находятся в процессе подписания.
Не все создания ИИ являются зловредными глубокими фейками, предназначенными для клеветы на оппонентов. Некоторые приложения, такие как персонализированные интерактивные телефонные звонки, служат скорее как новизны, чем угрозы для избирательной целостности. Например, политические партии в Индии использовали синтезированные голоса для отправки предзаписанных сообщений, обращаясь к индивидуальным избирателям по имени. Хотя такие приложения могут показаться безобидными, важно учитывать потенциал для злоупотребления ими.
Дивьендра Сингх Джадун, создатель ИИ, известный как Индийский Фейкмейкер, обучил голосовые и видео ИИ-модели для распространения индивидуализированных сообщений для политических партий. Он утверждает, что работает над «этичными» созданиями ИИ, такими как авторизованные переводы и воскрешения покойных лидеров, с согласия партии. Тем не менее он признает, что по мере того, как технология глубоких фейков становится более доступной, партии все чаще производят свои собственные глубокие фейки, что облегчает распространение дезинформации.
Эксперты в области, такие как Карен Ребело из сайта проверки фактов BOOM, отметили значительный рост глубоких фейков во время недавних сборов в Индии. Технология становится дешевле и более доступной, позволяя любому обладателю ноутбука создавать глубокие фейки. Это вызывает опасения относительно потенциального влияния глубоких фейков на справедливость и прозрачность выборов.
Хотя глубокие фейки вызывают беспокойство, они также могут использоваться для добрых целей. Технологии ИИ могут сыграть положительную роль в улучшении демократического процесса, такие как повышение доступности для инвалидных избирателей или предоставление точных переводов политических речей. Ключевое значение имеет обеспечение этичного и ответственного использования этих технологий.
По мере подготовки к предстоящим выборам необходимо, чтобы правительство, компании по производству ИИ и политические партии совместно разработали четкие руководящие принципы и правила для использования ИИ в политических кампаниях. Приоритетными должны быть прозрачность, ответственность и целостность избирательного процесса, чтобы Индия могла использовать потенциал ИИ, минимизируя риски, которые он несет.
Влияние и опасения по поводу глубоких фейков в политических кампаниях не ограничиваются только Индией. Использование технологии глубоких фейков стало глобальной проблемой с последствиями для различных отраслей и рынков.
Отрасль глубоких фейков готовится к значительному росту в ближайшие годы. Согласно отчету MarketsandMarkets, мировой рынок глубоких фейков должен достичь значения в размере 304,3 миллиона долларов к 2026 году, вырастая с темпом годового роста в размере 37,3% с 2021 по 2026 год. Повышение рыночного спроса связано с увеличением использования технологии ИИ и растущим осведомленным о глубоких фейках.
Потенциальное влияние глубоких фейков не ограничивается политическими кампаниями. Отрасли такие как развлечения, кибербезопасность и журналистика также сталкиваются с проблемами, связанными с технологией глубоких фейков. В индустрии развлечений, например, глубокие фейки могут использоваться для изменения внешности актеров или создания реалистичных виртуальных аватаров. Это вызывает опасения относительно конфиденциальности, интеллектуальных прав и подлинности контента.
В области кибербезопасности глубокие фейки представляют серьезную угрозу. Поддельные видео и изображения могут использоваться для обмана людей или получения несанкционированного доступа к системам. Киберпреступники могут использовать глубокие фейки для создания убедительных фишинговых атак или манипулирования цифровыми доказательствами в ходе судебных процедур.
Журналистика — еще одна отрасль, пострадавшая от глубоких фейков. Распространение дезинформации и разрушение доверия общественности — серьезные проблемы, с которыми сталкиваются журналисты в эпоху глубоких фейков. Новостным организациям необходимо разработать надежные методы проверки фактов и обучать общественность по определению и верификации подлинности контента.
Для борьбы с негативными последствиями глубоких фейков были разработаны различные инициативы и организации. Одной из таких инициатив является Челлендж по обнаружению глубоких фейков (DFDC), организованный сотрудничеством между Facebook, Microsoft, Партнерством по ИИ и несколькими академическими учреждениями. Цель DFDC заключается в разработке и совершенствовании методов обнаружения для определения глубоких фейков, помогая ограничить их распространение.
Ответственность за решение проблемы глубоких фейков лежит не только на правительственном регулировании и инициативах отрасли, но и на гражданах, которые должны осознавать существование глубоких фейков и быть осторожными с контентом, который они потребляют и делятся им. Проверка фактов, проверка источников и повышение медиаграмотности необходимы для борьбы с распространением глубоких фейков.
Хотя борьба с глубокими фейками — это сложная задача, прогрессы в области технологий ИИ могут быть также задействованы для разработки инструментов для обнаружения и смягчения их влияния. Алгоритмы машинного обучения могут быть обучены для выявления аномалий в видео или изображениях и различения между аутентичным и подделанным контентом. Постоянные исследования и сотрудничество между технологическими компаниями, исследователями и законодателями имеют важное значение для эффективного решения задач, связанных с глубокими фейками.
— MarketsandMarkets Deepfake Market Report: marketsandmarkets.com
— Обнаружение глубоких фейков: deepfakedetection.com
Часто задаваемые вопросы:
Что такое глубокие фейки?
Глубокие фейки — это синтетические и реалистичные изображения и видео, созданные при помощи технологий искусственного интеллекта для имитации реальных людей или событий.
Какую угрозу несут глубокие фейки для политических кампаний?
Глубокие фейки могут использоваться для манипуляции высказываниями и внешним видом политиков, вызывая сомнения и недоверие у избирателей, что может повлиять на результаты выборов.
Какие отрасли кроме политики также сталкиваются с проблемами глубоких фейков?
Глубокие фейки влияют на различные отрасли, включая развлечения, кибербезопасность и журналистику, создавая вызовы в области приватности, борьбы с киберпреступностью и доверия к источникам информации.
The source of the article is from the blog elperiodicodearanjuez.es