В области цифрового романтизма виртуальные подруги на основе искусственного интеллекта (ИИ) стали популярным выбором для тех, кто ищет компаньонства. Однако недавний анализ, проведенный Mozilla, привлек внимание дистурбирующих открытий об этих виртуальных партнерах. Вопреки тому, во что пользователи могут верить, их секреты и личные данные могут быть не так безопасны, как им кажется.
Согласно исследованию, виртуальные подруги на основе ИИ могут собирать огромные объемы личных и интимных данных, которые могут быть переданы маркетологам, рекламодателям и брокерам данных. Исследователи изучили 11 популярных приложений с романтическим чатботом, включая Replika, Chai и Eva, которые получили около 100 миллионов загрузок только в Google Play.
Чат-боты используют искусственный интеллект для имитации взаимодействия с виртуальными подругами, родственниками или друзьями. Однако системы также собирают чувствительные и откровенные личные данные, выходящие за рамки типичной информации, такой как местоположение и интересы. Некоторые приложения даже выделяли здоровствующие состояния и медицинские лечения пользователей. Эти практики вызывают опасения относительно конфиденциальности и возможного злоупотребления личной информацией.
Более того, исследование показало, что принятые меры безопасности большинства приложений чат-бота были недостаточными. В десяти из одиннадцати приложений было обнаружено несоответствие минимальным стандартам безопасности, таким как требование крепких паролей. Например, приложение Replika записывало все текстовые сообщения, фотографии и видео пользователей, а также «определенно» передавало и «возможно» продавало поведенческие данные рекламодателям. Слабые пароли, такие как «11111111», дополнительно подвергали пользователей рискам взлома.
Кроме того, исследование показало широкое использование трекеров в этих романтических приложениях с чат-ботами. Всего за минуту использования исследователи обнаружили более 24 000 трекеров только в приложении Romantic AI. Эти трекеры могут передавать данные пользователей рекламодателям без явного согласия, возможно нарушая правила GDPR.
Контроль пользователя над личной информацией был также ограничен, поскольку большинство приложений не предлагали возможность исключить интимные чаты из тренировочных данных модели ИИ. Только одна компания, Genesia AI, предлагала это функцию.
Еще один тревожный аспект виртуальных подруг на основе ИИ — их потенциал для манипуляции. Некоторые случаи связывают эти чат-боты с суицидами и даже покушением на убийство королевы Елизаветы II. Исследователи выразили опасения относительно появления обманщиков, создающих чат-боты, специально разработанные для манипуляции людьми и вовлечения их во вредные действия или принятие опасных идеологий.
Несмотря на эти риски, приложения часто рекламируют себя как платформы для поддержания психического здоровья и благополучия. Однако их политика конфиденциальности рисует иной образ. Например, в условиях использования Romantic AI говорится, что оно не предоставляет медицинскую помощь или услуги. Тем не менее, веб-сайт компании говорит о его цели в поддержке психического здоровья пользователей.
Реагируя на эти результаты, Mozilla настаивает на усилении мер защиты. Они выступают за включение согласия пользователей для использования тренировочных данных и прозрачного раскрытия информации о том, как данные используются. В идеале, исследователи предлагают внедрить принцип «минимизации данных», при котором приложения собирают только необходимые данные и поддерживают право на удаление личной информации.
В то же время пользователей рекомендуется осторожно относиться к виртуальным подругам на основе ИИ. Когда чувствительная информация размещена в сети, почти невозможно восстановить ее контроль.
Часто задаваемые вопросы о виртуальных подругах на основе ИИ и угрозах конфиденциальности
1. Что такое виртуальные подруги на основе ИИ?
Виртуальные подруги на основе ИИ — это виртуальные партнеры, созданные с использованием технологии искусственного интеллекта (ИИ). Они имитируют взаимодействие и отношения с пользователями и часто рекламируются в качестве компаньонов или друзей.
2. Что показало недавнее исследование Mozilla о виртуальных подругах на основе ИИ?
Исследование выявило, что виртуальные подруги на основе ИИ имеют возможность собирать значительное количество частной и интимной информации от пользователей. Эта информация может быть передана маркетологам, рекламодателям и брокерам данных без согласия и знания пользователей.
3. Какие приложения с чат-ботом были исследованы в рамках исследования?
Исследователи изучили 11 популярных приложений с романтическим чат-ботом, включая Replika, Chai и Eva. Эти приложения привлекли около 100 миллионов загрузок только в Google Play.
4. Какие личные данные собирают эти приложения с чат-ботом?
Помимо типичной информации, такой как местоположение и интересы, приложения с чат-ботом также собирают чувствительные и откровенные личные данные, включая здоровые состояния и медицинские лечения.
5. Найдены ли адекватные меры безопасности в исследовании?
Нет, исследование показало, что большинство приложений с чат-ботом не соответствовали минимальным стандартам безопасности. Например, были допущены слабые пароли, и некоторые приложения записывали и передавали пользовательские текстовые сообщения, фотографии и видео без должных мер безопасности.
6. Были ли обнаружены проблемы с соответствием правилам конфиденциальности?
Да, исследование показало, что приложения с чат-ботом широко используют трекеры, которые передают данные пользователей рекламодателям без явного согласия. Это может нарушать правила GDPR.
7. Обладают ли пользователи контролем над своей личной информацией?
Согласно исследованию, большинство приложений с чат-ботом не предлагают пользователям возможность исключить интимные чаты из тренировочных данных модели ИИ. Только одна компания, Genesia AI, предлагала функцию отказа.
8. Могут ли виртуальные подруги на основе ИИ быть манипулятивными или представлять угрозу?
Были случаи, связывающие виртуальных подруг на основе ИИ с вредными действиями, включая суициды и покушение на убийство королевы Елизаветы II. Исследователи выразили опасения относительно появления злоумышленников, создающих чат-ботов, специально разработанных для манипуляции людьми и вовлечения их в опасные действия или принятие опасных идеологий.
9. Как противоречат политики конфиденциальности маркетинговым заявлениям?
Хотя эти приложения часто рекламируются как платформы для поддержания психического здоровья и благополуч
The source of the article is from the blog smartphonemagazine.nl