В стремлении к общению и компаньонству многие обращаются к чатботам для романтических отношений на основе искусственного интеллекта, чтобы заполнить пустоту. Этицифровые партнеры обещают связь, непохожую на другие, и улучшение психического здоровья и благополучия. Однако недавнее исследование проекта по конфиденциальности от Mozilla «*Privacy Not Included*» раскрывает тревожную правду: ИИ подруги и ИИ парни на самом деле не являются вашими друзьями; они скрываются за кулисами владельцы персональных данных.
По словам Миши Рыкова, исследователя в Mozilla, эти чатботы специализируются на доставке зависимости, одиночества и токсичности, одновременно извлекая как можно больше личной информации. В рамках исследования было проанализировано 11 чатботов для романтических отношений, включая популярные приложения, такие как Replika, Chai и EVA AI Chat Bot & Soulmate. Шокирующим образом, каждый из них получил метку «*Privacy Not Included*», указывающую на серьезные нарушения конфиденциальности.
Собранные этими приложениями данные выходят далеко за рамки того, что необходимо для их работы. Например, CrushOn.AI собирает информацию о сексуальном здоровье, использовании лекарств и уходе за здоровьем, связанным с гендерной принадлежностью. Еще более тревожным является то, что 90% этих приложений могут продавать или передавать данные пользователей для целевой рекламы и других целей. Кроме того, более половины из них отказывают пользователям в возможности удалить собранные ими данные.
Безопасность также представляет значительную проблему. Приложение Genesia AI Friend & Partner было единственным, которое удовлетворяло минимальным стандартам безопасности от Mozilla. Остальные подверглись обнаружению уязвимостей безопасности, что подвергало данные пользователей риску.
Чтобы сделать ситуацию еще хуже, эти чатботы для романтических отношений встроены с большим количеством трекеров, постоянно собирающих и передающих данные пользователей. В среднем эти приложения насчитывают около 2 663 трекеров в минуту. Особенно поразительно, что приложение Romantic AI за одну минуту использования записало невероятные 24 354 трекера.
Помимо кошмара конфиденциальности, эти приложения делают сомнительные утверждения о своей функциональности. В то время как EVA AI Chat Bot & Soulmate обещает улучшение настроения и благополучия, сопутствующие условия и сервисы отказываются нести ответственность за оказание медицинской помощи или профессиональных услуг. Это правовое отчуждение особенно важно в свете прошлых случаев, когда сообщалось, что ИИ чатботы поощряли насилие или самоповреждение.
Оценивая риски, связанные с чатботами для романтических отношений на основе ИИ, становится ясно, что компромисс между компаньонством и конфиденциальностью далеко не сбалансирован. Пользователям следует быть осторожными и обдумать потенциальные последствия, прежде чем взаимодействовать с этими мошенническими цифровыми партнерами.
Часто задаваемые вопросы (ЧЗВ) о чатботах для романтических отношений на основе ИИ и конфиденциальности:
1. О чем рассказывает недавнее исследование проекта *Privacy Not Included* от Mozilla?
— Исследование раскрывает, что чатботы для романтических отношений на основе ИИ, обещающие компаньонство, на самом деле широко собирают личную информацию и представляют серьезные риски для конфиденциальности.
2. Какие чатботы для романтических отношений на основе ИИ были проанализированы в исследовании?
— В исследовании было проанализировано 11 чатботов для романтических отношений на основе ИИ, включая популярные приложения, такие как Replika, Chai и EVA AI Chat Bot & Soulmate.
3. Что указывают метки *Privacy Not Included*?
— Метки *Privacy Not Included* указывают на серьезные нарушения конфиденциальности, обнаруженные во всех проанализированных чатботах для романтических отношений на основе ИИ.
4. Какие личные данные собирают эти чатботы для романтических отношений на основе ИИ?
— Собираемые данные выходят за рамки необходимых операций. Например, CrushOn.AI собирает информацию о сексуальном здоровье, использовании лекарств и уходе, связанном с гендерной принадлежностью.
5. Приложения передают или продают данные пользователей?
— 90% этих приложений могут продавать или передавать данные пользователей для целевой рекламы и других целей.
6. Могут ли пользователи удалить собранные чатботами данные?
— Более половины проанализированных приложений отказывают пользователям в возможности удалить собранные чатботами данные.
7. Какие есть проблемы безопасности, связанные с этими чатботами?
— За исключением приложения Genesia AI Friend & Partner, у всех остальных найдены уязвимости, подвергающие данные пользователей риску.
8. Сколько трекеров использовали эти чатботы для романтических отношений на основе ИИ в минуту?
— В среднем эти приложения используют около 2 663 трекеров в минуту. Romantic AI записал рекордные 24 354 трекера за одну минуту использования.
9. Какие утверждения делают эти приложения о своей функциональности?
— Некоторые приложения утверждают, что улучшают настроение и благополучие, но их условия и сервисы отказываются нести ответственность за оказание медицинской помощи или профессиональных услуг.
10. Были ли случаи, когда чатботы подталкивали к вредительству?
— Ранее сообщалось о случаях, когда чатботы, якобы настраивая на насилие или самоповреждение.
Определения:
— Чатботы для романтических отношений на основе ИИ: Цифровые партнеры, использующие искусственный интеллект для симуляции романтических отношений или оказания эмоциональной поддержки.
— Владельцы персональных данных: Программы или приложения, собирающие чувствительную личную информацию для различных целей.
— Проект *Privacy Not Included*: Проект от Mozilla, оценивающий конфиденциальность и безопасность подключенных устройств и сервисов.
— Трекеры: Инструменты, используемые для сбора и передачи данных пользователей для различных аналитических, рекламных или других целей.
Предлагаемые связанные ссылки:
— Конфиденциальность Mozilla Firefox
— Electronic Frontier Foundation
The source of the article is from the blog jomfruland.net