OpenAI, создатель программы искусственного интеллекта для общения, известной как ChatGPT, выявил несколько организаций, базирующихся в России, Китае и других регионах, которые, по сообщениям, используют искусственный интеллект для воздействия на общественное мнение.
Эти группы, предпочитающие сохранять конфиденциальность своей личности, применяют генерируемый искусственным интеллектом текст, создание аккаунтов в социальных сетях, а также использование ИИ для программирования. В своей деятельности они сосредоточились на чувствительных геополитических вопросах, включая российское вторжение на Украину, конфликты в секторе Газа и американскую политику.
Среди них особенно активна действует организация, базирующаяся в Китае, создающая контент, критикующий спорное сброс воды из японской атомной электростанции Фукусима-1. Операция также распространилась на публикации на японском языке в сети. Однако сообщается, что созданные с помощью ИИ сообщения не получили значительной аудитории в социальных медиа-платформах.
Более того, OpenAI раскрыла, что были случаи, когда попытки создать пропагандистские изображения с помощью инструментов ИИ были отклонены программным обеспечением, подчеркивая этические меры безопасности, предотвращающие неправомерное использование. OpenAI опубликовала доклад, подробно описывающий эти угрозы, в тот же день, когда были объявлены результаты, подчеркивая важность мониторинга и регулирования использования ИИ для предотвращения таких манипуляционных практик.
Значимость и актуальность использования ИИ для манипулирования общественным мнением:
Использование ИИ для манипулирования общественным мнением является значительной проблемой, поскольку это может влиять на политические выборы, изменять общественное мнение по ключевым вопросам и даже подстрекать конфликты между различными группами. Инструменты искусственного интеллекта, такие как создание дипфейков или написание убедительных текстов, могут распространять дезинформацию в масштабах и с скоростью, превышающей человеческие возможности.
Ключевые вопросы и ответы:
— Какие средства используют организации для манипулирования общественным мнением с помощью ИИ?
Организации используют ИИ для создания убедительного текста, фабрикации реалистичных изображений или видео (дипфейков), создания ложных профилей в социальных сетях и автоматизации распространения дезинформации.
— Как OpenAI предотвращает использование его инструментов для пропаганды?
OpenAI применяет этические меры безопасности и механизмы надзора, способные обнаруживать и предотвращать создание программного обеспечения, предназначенного для пропаганды или дезинформации.
— С какими трудностями связано регулирование использования ИИ для манипулирования?
Распространение инструментов и технологий ИИ через международные границы затрудняет обеспечение соблюдения нормативных актов. Кроме того, возможности ИИ могут опередить установление эффективных организационных структур управления.
Основные проблемы и контроверзии:
Основные проблемы в борьбе с использованием ИИ для манипулирования общественным мнением включают выявление и приписывание вредоносных действий определенным деятелям, так как многие скрывают свою личность или действуют из-за рубежа. Кроме того, продолжается дебаты о балансе между свободой слова и необходимостью предотвращения ложной информации, а также о роли технологических компаний против власти государства в регулировании контента.
Преимущества ИИ:
— Обеспечивает эффективную обработку данных и анализ для понимания тенденций общественного мнения.
— Облегчает быстрое распространение информации для легитимных новостей или экстренных оповещений.
Недостатки ИИ:
— ИИ может использоваться для увеличения ложных сюжетов и создания изощренных кампаний дезинформации.
— Возникают опасения по поводу разрушения доверия к СМИ и демократическим институтам.
Регулирование и этические вопросы:
Продвижение в области ИИ приводит к обсуждениям о его этическом использовании и принятии регулятивных мер для предотвращения его злоупотребления в политической сфере. Организации и правительства по всему миру становятся более осведомленными и усиливают работу над разработкой политики для решения этических проблем, порождаемых ИИ.
Если вы хотите узнать больше о последствиях использования ИИ и его общественном влиянии, вы можете изучить следующие ссылки:
— OpenAI
— Панель по цифровому сотрудничеству ООН
— Всемирная организация здравоохранения (по вопросам связанным с здравоохранением)
The source of the article is from the blog regiozottegem.be