Открытый искусственный интеллект OpenAI, создатель программы для разговорного ИИ, известной как ChatGPT, выявил несколько организаций, базирующихся в России, Китае и других регионах, которые якобы используют искусственный интеллект для воздействия на общественное мнение.
Эти группы, предпочитающие сохранять свою анонимность, применяют создание текстов с помощью ИИ, создание аккаунтов в социальных сетях, а также используют ИИ для программирования. В своей деятельности они сосредотачиваются на чувствительных геополитических вопросах, включая российское вторжение в Украину, конфликты в Газе и американскую политику.
Среди них организация из Китая проявляет особую активность, создавая контент, который критикует спорное высвобождение обработанной воды из японской атомной станции Фукусима-1. Операция также охватывает публикации на японском языке в онлайне. Однако сообщается, что эти сообщения, сгенерированные с помощью ИИ, не получили значительного числа зрителей на платформах социальных сетей.
Более того, OpenAI сообщила, что были случаи, когда попытки создания пропагандистских изображений с использованием инструментов ИИ были отклонены программным обеспечением, подчеркивая наличие этических мер безопасности, предотвращающих злоупотребление. OpenAI опубликовала отчет, подробно описывающий эти угрозы в тот же день, когда были объявлены результаты, подчеркивая важность контроля и регулирования использования ИИ для предотвращения таких манипулятивных практик.
Важность и актуальность использования ИИ в манипуляции общественным мнением:
Использование ИИ в манипуляции общественным мнением представляет собой значительную опасность, поскольку это может влиять на политические выборы, изменять общественное мнение по ключевым вопросам и даже провоцировать конфликты между различными группами. Инструменты искусственного интеллекта, такие как разработанные для создания дипфейков или написания убедительных текстов, могут распространять дезинформацию масштабно и с такой скоростью, которая далеко превосходит человеческие возможности.
Основные вопросы и ответы:
— Какими средствами организации пользуются для манипулирования общественным мнением с помощью ИИ?
Организации используют ИИ для создания убедительных текстов, фабрикации реалистичных изображений или видеороликов (дипфейков), создания ложных профилей в социальных сетях и автоматизации распространения дезинформации.
— Как OpenAI предотвращает использование своих инструментов в пропагандистских целях?
OpenAI внедряет этические меры безопасности и механизмы контроля, способные обнаружить и предотвратить создание контента, который предназначен для пропаганды или дезинформации.
— Какие вызовы связаны с регулированием использования ИИ для манипуляции?
Распространение инструментов и технологий ИИ через границы делает сложным обеспечение соблюдения регулирования. Более того, возможности ИИ могут превышать установление эффективных структур управления.
Основные вызовы и контроверзии:
Главные проблемы при рассмотрении использования ИИ для манипуляции общественным мнением включают в себя идентификацию и присвоение злонамеренных действий конкретным действующим лицам, поскольку многие скрывают свои идентичности или действуют из-за границ. Кроме того, идет постоянная дебата о балансе между свободой слова и необходимостью пресечь ложную информацию, а также о роли технологических компаний по сравнению с полномочиями государства в регулировании контента.
Преимущества ИИ:
— Обеспечивает эффективную обработку и анализ данных для понимания тенденций общественного мнения.
— Облегчает быструю передачу информации для легитимных новостей или экстренных уведомлений.
Недостатки ИИ:
— ИИ может использоваться для усиления ложных утверждений и создания сложных кампаний дезинформации.
— Возникают опасения по поводу разрушения доверия к СМИ и демократическим институтам.
Регуляторные усилия и этические соображения:
Продвижение в области ИИ провоцирует обсуждения о его этическом использовании и принятии регулирующего механизма для предотвращения его злоупотребления в политической арене. Организации и правительства всего мира теперь более информированы и усердно работают над разработкой политики для решения этических вызовов, возникающих из-за использования ИИ.
Если вы хотите узнать больше о влиянии ИИ и его общественном влиянии, вы можете изучить следующие ссылки:
— OpenAI
— Панель ООН по цифровому сотрудничеству
— Всемирная организация здравоохранения (по вопросам связанным с здоровьем)
The source of the article is from the blog lanoticiadigital.com.ar