Во важном эксперименте исследователи из Массачусетского технологического института (MIT) продемонстрировали, что чат-бот на основе искусственного интеллекта способен снизить уверенность в теориях заговора на около 20 процентов. Исследование, о котором сообщил New Scientist, заключалось в том, что ИИ вступал в диалог с людьми, ранее называвшими себя сторонниками различных теорий заговора.
Участники исследования сначала выражали свою уверенность в выбранной теории заговора и оценивали вероятность ее правдивости. После этого начинался структурированный диалог с чат-ботом, где каждая сторона вносила свои три вклада в разговор. После беседы люди переоценивали свою веру в обсуждаемую теорию заговора.
Удивительно, что уверенность в конкретных теориях заговора снизилась в среднем на 20 процентов после разговора с ИИ. Более того, исследование отметило общее снижение приверженности к другим теориям заговора у участников — изменение, которое, как предполагается, сохранялось по крайней мере два месяца, что указывает на потенциально долгосрочное изменение взгляда.
Успех чат-бота на ИИ объясняется его прямым и основанным на фактах подходом. Томас Костелло из MIT отмечает, что в то время как ранние попытки противодействовать теориям заговора часто терпели неудачу из-за обобщенных аргументов и поверхностного фактического вовлечения, чат-бот эффективно использовал доводы, основанные на доказательствах, в 83 процентах диалогов, чтобы донести альтернативные точки зрения.
Эти результаты иллюстрируют потенциал как для ИИ, так и для людей принять более эффективный подход во взаимодействии с сторонниками теорий заговора, ведя факториально и уважительно. По мере развития ИИ инструменты подобного рода могут стать критически важными для поощрения рационального диалога и исправления дезинформации на мировом уровне.
Текущие тенденции на рынке:
Рынок чат-ботов на ИИ активно расширяется. Больше компаний и организаций интегрируют чат-ботов в свою клиентскую службу и операции для улучшения эффективности и пользовательского опыта. Чат-боты на ИИ становятся все более сложными в своей способности анализировать и интерпретировать естественный язык, что делает их более эффективными в различных приложениях, включая борьбу с дезинформацией и теориями заговора.
Прогнозы:
Ожидается, что рынок чат-ботов на ИИ будет продолжать расти: прогнозируемый годовой темп роста с 2021 по 2026 год составит около 24 процентов. По мере улучшения технологий машинного обучения и обработки естественного языка чат-боты будут все более продвинуты в аргументации и вовлечении пользователей в сложные разговоры, включая те, связанные с чувствительными темами, такими как теории заговора.
Основные проблемы и споры:
Борьба с теориями заговора при помощи чат-ботов на ИИ представляет собой задачу. Во-первых, субъективность разговоров и тонкости верований могут затруднить идентификацию и коррекцию дезинформации эффективно. Существует также риск того, что боты могут укреплять ошибочные убеждения, если не будут правильно программированы или научены. Привлечение ИИ в такие контексты может вызвать этические вопросы о влиянии на свободу слова, конфиденциальность и возможность манипулирования, что приводит к спорам относительно их развертывания и управления.
Важные вопросы:
1. Как чат-боты на ИИ точно идентифицируют и различают между теориями заговора и контроверсиальными, но законными диссидентами?
2. Могут ли чат-боты на ИИ сохранять нейтральную и без предвзятую позицию, учитывая, что они работают на основе наборов данных, которые могут иметь встроенные предвзятости?
3. Какие механизмы существуют для предотвращения использования чат-ботов на ИИ для злонамеренных целей, таких как распространение дезинформации?
4. Как обеспечивается защита конфиденциальности пользователей во время взаимодействия с чат-ботами, обсуждающими чувствительные темы?
Преимущества:
— Чат-боты на ИИ могут общаться с людьми масштабно, потенциально достигая большего числа людей, чем вмешательства людей.
— Они предоставляют систематичный и фактологический подход к опровержению теорий заговора.
— Чат-боты на ИИ доступны круглосуточно и могут обеспечить мгновенное общение с пользователями.
Недостатки:
— Чат-боты могут не иметь достаточного эмпатии и понимания для чувствительных диалогах, что может привести к возможному отчуждению пользователей.
— Их можно потенциально использователь для распространения дезинформации, если они не будут должным образом контролироваться.
— Эффективность чат-ботов на ИИ в изменении закрепившихся убеждений пока необходимо еще полностью понять.
Для дальнейшего чтения, можете обращаться к основным веб-сайтам ключевых учреждений, участвующих в исследованиях по ИИ и борьбе с дезинформацией:
— Массачусетский технологический институт
— New Scientist
Обратите внимание, что текущие тенденции, прогнозы, проблемы и этические вопросы, связанные с использованием чат-ботов на ИИ для борьбы с теориями заговора, находятся на стадии постоянного исследования и дебатов в этой области. Важно, чтобы разработчики, политики и общество в целом внимательно отслеживали и участвовали в этих нововведениях, чтобы гарантировать, что они развиваются и применяются ответственно и эффективно.
The source of the article is from the blog motopaddock.nl