В постоянно меняющемся ландшафте демократии и технологий, год 2024 имеет огромное значение. С рекордным количеством стран и индивидуумов, участвующих в выборах, мы свидетельствуем историческому моменту в человеческой истории. Однако наряду с этим демократическим прогрессом, стремительные достижения в области искусственного интеллекта (ИИ) представляют непреодолимую угрозу. Возникновение «дипфейков», реалистичных манипуляций аудио, видео и изображений, имеет потенциал обмануть избирателей, ведя опасную игру в области политики.
Признавая этот насущный вызов, индустрия технологий сделала переломный шаг к решению проблемы. На Мюнхенской конференции по безопасности 20 крупных компаний объединились, чтобы объявить Технологический аккорд по борьбе с обманчивым использованием ИИ на выборах 2024 года. Несомненно, цель этого аккорда крайне важна – борьба с распространением дипфейков, изменяющих внешний вид, голос или действия политических кандидатов и других важных фигур, связанных с избирательным процессом. Следует отметить, что это инициатива не мотивирована партийными интересами или направлена на подавление свободы выражения. Вместо этого она нацелена на защиту фундаментального права избирателей выбирать своих лидеров, не подвергаясь всепоглощающему влиянию ИИ-сгенерированных манипуляций.
Хотя путь вперед может быть сложным, Технологический аккорд представляет собой значительное и объединенное усилие индустрии технологий. Это отмечает критический момент во времени, поскольку выборы в более чем 65 странах намечены на текущий год. Хотя предстоит еще много работы, это глобальная инициатива служит основой для немедленных действий, создавая импульс в различных секторах.
Основная проблема, которая требует нашего внимания, заключается в создании реалистичных дипфейков с использованием инструментов генеративного ИИ. Эти инструменты стали все более доступными, позволяя создавать убедительные аудио-, видео- и изображения, которые могут манипулировать внешностью и действиями лиц. Лаборатория Microsoft AI for Good продемонстрировала простоту этого процесса, создавая видео, которые казались подлинными, даже изменяя язык и беглость речи диктора. Такие манипуляции представляют значительный риск для подлинности и целостности демократических процессов по всему миру.
ИИ облегчил новую форму манипуляции, которая постепенно развивалась в течение последнего десятилетия, от распространения поддельных веб-сайтов до использования ботов в социальных медиа. В последние месяцы наблюдается всплеск раскрытия этой проблемы и ее потенциальных последствий для выборов. Примеры включают использование ИИ для создания автоматических телефонных звонков во время первичных выборов в Нью-Гэмпшире, имитирующих голос президента Байдена, а также видео дипфейков с участием премьер-министра Великобритании Риши Сунака. Центр анализа угроз Microsoft даже проследил определенные видео дипфейков к актерам государства, подчеркивая серьезность ситуации.
Использование ИИ и дипфейков злонамеренными субъектами представляет существенный риск для демократических обществ по всему миру, особенно подрывая способность общественности принимать информированные решения во время выборов. В этом контексте проблема дипфейков пересекает две сферы в технологическом секторе. С одной стороны, существуют компании, создающие модели, приложения и услуги ИИ, способные генерировать реалистичный аудио-, видео- и изображения. С другой стороны, есть платформы и сервисы, через которые эти дипфейки могут быть распространены среди публики. Microsoft, как влиятельный участник в обеих сферах, использует свои знания для выявления и борьбы с дипфейками. Их Лаборатория AI for Good совместно с Центром анализа угроз Microsoft анализируют и отслеживают действия плохих участников и их тактику, используя ИИ инструменты для улучшенного обнаружения.
Однако суть этой проблемы кроется не в технологиях, а в человеческом сотрудничестве. Поскольку обсуждения о дипфейках получили мировое развитие, действий не хватало, а время, казалось, подходило к концу, особенно в преддверии выборов. В свете этих срочных обстоятельств сотрудничество стало необходимым. Сегодняшнее объявление в Мюнхене свидетельствует о завершении усилий многочисленных компаний в технологической индустрии, которые объединились для противодействия этой угрозе.
Несомненно, это исторический день, олицетворяющий преданность и совместную работу страстных личностей в технологическом секторе. Технологический аккорд представляет собой значительный веху, поскольку объединяет компании из обеих сфер индустрии с целью борьбы с угрозой дипфейков. Хотя путь может быть трудным, этот аккорд заложил основу для немедленных действий с целью сохранения целостности демократических процессов по всему миру.
The source of the article is from the blog mivalle.net.ar