AI-чатботы-спутники и романтические партнеры набирают популярность в последние годы, предлагая общение и, кажется, удовлетворяя потребности людей в период эпидемии одиночества. Тем не менее, недавний обзор от *Privacy Not Included, потребительского руководства от Mozilla Foundation, выявил обеспокоенность приватностью, связанной с этими ботами.
Обзор оценил 11 чатботов, рекламируемых как романтические спутники, и обнаружил, что все они вызывают опасения в плане конфиденциальности. Фактически, *Privacy Not Included признает этих чатботов одними из продуктов с наихудшими политиками конфиденциальности среди всех, когда-либо рассмотренных ими.
Одной из главных проблем конфиденциальности является отсутствие политик конфиденциальности и прозрачности в отношении того, как AI-спутники собирают и используют данные пользователей. Кроме того, в Условиях и положениях многих из этих чатботов компании освобождают себя от ответственности за последствия, которые могут возникнуть при использовании их продуктов.
Миша Рыков, исследователь в *Privacy Not Included, подчеркивает, что AI-подруги и спутники не являются настоящими друзьями. Хотя их могут продвигать как инструменты для улучшения психического здоровья и благополучия, эти боты часто способствуют зависимости, одиночеству и токсичности, а также извлекают огромное количество личных данных у пользователей.
Один из примеров, подчеркнутых обзором, — CrushOn.AI, который собирает чувствительную информацию о пользователе под предлогом обеспечения безопасности и подходящего контента. Аналогично, RomanticAI признает в своих условиях и положениях, что пользователи общаются с программным обеспечением, которое не может постоянно контролироваться компанией.
Обзор также выявил недостаток протоколов безопасности среди этих чатботов. Почти три четверти из них не предоставили информацию о том, как они управляют вопросами безопасности, и большинство не ясно высказывались о том, какие они применяют методы шифрования. Наиболее обеспокоительным является открытие, что многие чатботы либо заявляют о намерении продать или поделиться данными пользователей, либо не описывают, как они используют личную информацию. Более того, менее половины из них предлагает пользователям право на удаление своих данных.
Проблемы выходят далеко за рамки вопросов конфиденциальности. Запрет OpenAI на использование его технологии GPT для развития романтической дружбы подчеркивает сложности в регулировании взаимоотношений с AI-чатботами в целом.
Прозрачность и пользовательский контроль являются важными аспектами в решении проблем, связанных с AI-чатботами-спутниками. Пользователи должны иметь возможность понимать, как их разговоры используются для обучения AI-моделей, а также выбирать возможность удаления своих данных или полностью отказаться от обучения. Без этих мероприятий возможность манипуляции и злоупотребления остается очень высокой.
По мере развития AI-чатботов-спутников предприятиям необходимо делать приоритетом приватность, безопасность и контроль пользователей, чтобы обеспечить разработку ответственных и доверенных AI-спутников для будущего.
FAQ:
1. Что такое AI-чатботы-спутники?
AI-чатботы-спутники — это виртуальные чатботы, созданные для обеспечения компаньонства для отдельных людей. Они программируются с помощью алгоритмов искусственного интеллекта, чтобы вести беседы и имитировать разговоры, схожие с человеческими.
2. Какие проблемы конфиденциальности были выявлены с AI-чатботами-спутниками?
В недавнем обзоре от *Privacy Not Included были выявлены проблемы конфиденциальности, связанные с AI-чатботами-спутниками. В обзоре было отмечено отсутствие политик конфиденциальности и прозрачности в отношении сбора и использования данных этими чатботами. Кроме того, обзор также показал, что многие чатботы освобождают себя от ответственности за последствия, которые могут возникнуть при использовании их продуктов.
3. Как AI-чатботы-спутники извлекают личные данные?
AI-чатботы-спутники извлекают личные данные у пользователей через взаимодействия и разговоры. Они собирают информацию о предпочтениях, интересах, личных опытах пользователей и т.д. Эти личные данные часто используются для обучения AI-моделей и улучшения ответов чатбота.
4. Какие есть примеры проблем конфиденциальности, выявленных в обзоре?
В обзоре был выделен CrushOn.AI, который собирает чувствительную информацию о пользователе под предлогом безопасности и соответствующего контента. Аналогично, RomanticAI признает в своих условиях и положениях, что пользователи общаются с программным обеспечением, которое не может быть постоянно контролируемо компанией.
5. Есть ли какие-либо проблемы с безопасностью AI-чатботов-спутников?
Да, обзор обнаружил недостаток протоколов безопасности среди этих чатботов. Многие из них не предоставили информацию о том, как они управляют вопросами безопасности, и была неясность в отношении методов шифрования. Некоторые чатботы также заявили о намерении продать или поделиться данными пользователей, в то время как другие не указали, как они используют личную информацию.
6. Какие проблемы существуют в регулировании взаимоотношений с AI-чатботами-спутниками?
Запрет OpenAI на использование своей технологии GPT для развития романтической дружбы подчеркивает сложности в регулировании взаимоотношений с AI-чатботами-спутниками. Это показывает, что необходимо установить руководящие принципы и этические стандарты разработки и использования этих спутников.
7. Что могут сделать пользователи для решения проблем конфиденциальности с AI-чатботами-спутниками?
Прозрачность и контроль пользователей являются важными аспектами в решении проблем, связанных с AI-чатботами-спутниками. Пользователи должны иметь возможность понимать, как их разговоры используются для обучения AI-моделей и иметь возможность удалить свои данные или полностью отказаться от использования их для обучения моделей.
Определения:
— AI: Искусственный интеллект, имитация человеческого интеллекта в машинах, программированных для мышления и обучения, подобно людям.
— Чатбот: Компьютерная программа, созданная для имитации разговора с пользователем, обычно через текстовые взаимодействия.
— Политики конфиденциальности: Политики, которые определяют, как организация собирает, использует и защищает персональные данные.
— Прозрачность: Качество быть открытым, честным и ясным в отношении сбора и использования данных.
— Условия и положения: Юридическое соглашение между компанией и ее пользователями, которое определяет права и обязанности обеих сторон.
Предложенные связанные ссылки:
— Mozilla Foundation
— OpenAI
The source of the article is from the blog exofeed.nl