После нападения под предводительством ИГИЛ на концертный зал в России, сторонники террористической группы начали использовать искусственный интеллект (ИИ) для создания реалистичных видеоведущих для онлайн трансляций. Эти изображения, сгенерированные ИИ, утверждали, что нападение было лишь частью продолжающегося конфликта, а не террористической операцией. Эта инновация является частью новой медийной инициативы под названием News Harvest, основанной сторонниками ИГИЛ.
Рита Кац из группы SITE Intelligence, которая отслеживает онлайн-активности экстремистских групп, указала, что News Harvest начал выпускать видеоотчеты о действиях ИГИЛ по всему миру с марта. Трансляции имитировали формат новостей Аль-Джазиры, включая боевую одежду или торжественно одетых видеоведущих ИИ, прокручивающиеся новостные бегунки и видеозаписи членов ИГИЛ, выполняющих миссии.
Эксперты в области медиа и терроризма отметили, что быстрое распространение ИИ в создании и распространении пропаганды может ускорить набор новых членов. Сейчас ведется дискуссия о том, соответствует ли использование технологии ИИ исламскому закону. ИГИЛ, известный своими продвинутыми медийными операциями, теперь может производить видеоролики набора на уровне Голливуда за долю стоимости с использованием ИИ.
Сторонники ИГИЛ выразили готовность использовать средства ИИ для пропаганды. Один из сторонников по имени «Аль-Курди 500» выделил важность ИИ в создании видеоконтента, аналогичного популярным новостным каналам. Другой под псевдонимом Хисад быстро создал видеопост на основе ИИ после смертоносного нападения на московский концерт.
С марта было распространено шесть трансляций News Harvest, предлагающих обновления о деятельности аффилиатов ИГИЛ, демонстрируя плавную интеграцию ИИ в их стратегию пропаганды. Точная технология ИИ, используемая в проекте, остается неизвестной, но некоторые энтузиасты рекомендовали использовать «хорошее» программное обеспечение ИИ для клонирования голоса.
Простота использования и доступность технологии ИИ означают, что даже группы, ослабленные военными вмешательствами, такие как ИГИЛ или Аль-Каида, могут продолжать распространять свои послания, используя меньше ресурсов. Поскольку медиа, поддерживающие ИГИЛ, ищут специалистов в области ИИ, другие исламские воинственные организации, включая Аль-Каиду, также обсуждают использование ИИ для своих целей, что является значительным сдвигом в технике пропаганды.
Использование технологии ИИ ИГИЛом в целях пропаганды вызывает серьезные опасения и вызовы на мировом уровне:
Основные вопросы и ответы:
— Насколько эффективен ИИ в создании правдоподобной пропаганды? ИИ очень эффективен в создании реалистичных изображений и видеороликов, включая «глубокие фейки», которые могут быть практически неотличимы от реальных кадров, что приводит к более мощной и правдоподобной пропаганде.
— Какие последствия может иметь использование ИИ ИГИЛом для пропаганды? Такое использование может привести к широкому распространению дезинформации, что потенциально может разжигать напряженность и побуждать к насилию. Также это может сделать процесс выявления и борьбы с экстремистским контентом более сложным для властей.
Основные проблемы и контроверзии:
— Борьба с дезинформацией: Поскольку создаваемый ИИ контент становится все более сложным, становится все сложнее выявлять и противодействовать ложной информации.
— Правовые и этические вопросы: Дискуссия о применении ИИ в соответствии с исламским законом представляет собой этическое дилемма для ИГИЛа и подобных групп. Также стоит более широкий вопрос регулирования использования ИИ для предотвращения его неправомерного использования экстремистскими организациями.
Преимущества и недостатки:
— Преимущества: Для ИГИЛа технология ИИ предлагает стоимостной метод создания качественной пропаганды. Она позволяет создавать контент, который может оказать сильное психологическое воздействие и, вероятно, эффективнее уходить от обнаружения, чем традиционная пропаганда.
— Недостатки: Неправомерное использование ИИ для терроризма создает препятствия на общественном уровне, включая риск массового обмана, радикализации и разрушение доверия к СМИ. Кроме того, это может привести к гонке в владении навыками в области ИИ между экстремистскими группами и силами по борьбе с терроризмом.
Для тех, кто ищет дополнительную информацию о технологиях ИИ и их последствиях, рекомендуется посетить надежные информационные платформы и исследовательские организации, такие как:
— AI Global – платформа, посвященная продвижению ответственного использования ИИ.
— United Nations – для информации о глобальных инициативах против злоупотребления технологиями.
— RAND Corporation – организация, занимающаяся исследованиями в области национальной безопасности и терроризма, включая использование технологий экстремистскими группами.
Важно продолжать контролировать и противодействовать неправомерному использованию технологии ИИ, одновременно пропагандируя этические стандарты, чтобы обеспечить, что эти мощные инструменты не будут служить целям экстремистских организаций, таких как ИГИЛ.
The source of the article is from the blog mgz.com.tw