OpenAI, создатель программы искусственного интеллекта для общения под названием ChatGPT, выявил несколько организаций, базирующихся в России, Китае и других регионах, которые, как сообщается, используют искусственный интеллект для влияния на общественное мнение.
Эти группы, предпочитающие сохранять конфиденциальность своих идентичностей, используют генерированный искусственным интеллектом текст, создание аккаунтов в социальных сетях, а также применение искусственного интеллекта для программирования задач. В своей деятельности они сосредотачиваются на чувствительных геополитических вопросах, включая российское вторжение в Украину, конфликты в Газе и американскую политику.
Среди них особенно активной была организация из Китая, создающая контент, который критикует спорное выпуск воды из обработанной воды на японской атомной электростанции Фукусима Дайити. Операция также распространялась на японские посты онлайн. Однако по сообщениям эти искусственным интеллектом созданные сообщения не получили значительной аудитории на платформах социальных медиа.
Более того, OpenAI сообщила, что были случаи, когда попытки создания пропагандистских изображений с помощью инструментов искусственного интеллекта были отвергнуты программным обеспечением, подчеркивая этот этический барьер для предотвращения злоупотреблений. OpenAI опубликовала отчет, подробно описывающий эти угрозы, в тот же день, когда были объявлены результаты, подчеркивая важность контроля и регулирования использования искусственного интеллекта для предотвращения таких манипулятивных практик.
Значимость и актуальность использования искусственного интеллекта для манипулирования общественным мнением:
Использование искусственного интеллекта для манипулирования общественным мнением представляет собой значительную проблему, поскольку это может влиять на политические выборы, изменять общественное мнение по ключевым вопросам и даже способствовать конфликтам между различными группами. Инструменты искусственного интеллекта, такие как те, которые разработаны для создания дипфейков или написания убедительных текстов, могут распространять дезинформацию в масштабах и со скоростью, значительно превышающими человеческие возможности.
Ключевые вопросы и ответы:
— Какие средства используют организации для манипулирования общественным мнением с помощью искусственного интеллекта?
Организации используют искусственный интеллект для создания убедительного текста, фабрикации реалистичных изображений или видеороликов (дипфейков), создания ложных профилей в социальных сетях и автоматизации распространения дезинформации.
— Как OpenAI предотвращает использование его инструментов для пропаганды?
OpenAI внедряет этические меры и механизмы надзора, которые могут обнаруживать и предотвращать создание контента, предназначенного для пропаганды или дезинформации.
— Какие вызовы связаны с регулированием использования искусственного интеллекта для манипулирования?
Распространение средств и технологий искусственного интеллекта через международные границы затрудняет введение регулирования. Более того, возможности искусственного интеллекта могут опережать установление эффективных систем управления.
Основные проблемы и контроверзы:
Основные проблемы в предотвращении использования искусственного интеллекта для манипулирования общественным мнением включают определение и атрибуцию злонамеренной деятельности конкретным акторам, поскольку многие скрывают свои идентичности или действуют из-за рубежа. Кроме того, продолжается дебат о балансе между свободой слова и необходимостью урезать ложную информацию, а также о роли технологических компаний по сравнению с государственным контролем регулирования контента.
Преимущества использования искусственного интеллекта:
— Облегчает эффективную обработку данных и анализ для понимания тенденций общественного мнения.
— Облегчает быстрое распространение информации для легитимных новостей или экстренных оповещений.
Недостатки искусственного интеллекта:
— Искусственный интеллект может использоваться для усиления ложных повествований и создания сложных кампаний дезинформации.
— Возникают опасения по поводу разрушения доверия к СМИ и демократическим институтам.
Регуляторные усилия и этические аспекты:
Продвижение в области искусственного интеллекта вызвало обсуждения об этическом использовании и регулировании, чтобы предотвратить его злоупотребление в политической сфере. Организации и правительства по всему миру теперь более осведомлены и активно работают над разработкой политики для борьбы с этическими вызовами, поставленными перед искусственным интеллектом.
Если вы хотите узнать больше о последствиях использования искусственного интеллекта и его общественном влиянии в целом, можете изучить следующие ссылки:
— OpenAI
— Цифровое сотрудничество Организации Объединенных Наций
— Всемирная организация здравоохранения (по вопросам искусственного интеллекта в области здравоохранения)