AI чатботовете, които симулират романтични партньори, станаха популярни през последните години, като предлагат компания и емоционална подкрепа на самотни хора. Въпреки това, е ново предупреждение от екипа по сигурност на Мозила, което открива загрижаващия липса на защита на поверителността в тези AI чатбот услуги-любовници.*
При взаимодействието с тези AI чатботове, потребителите може да разкрият лична информация неосъзнателно поради тяхния интимен характер. Освен това, чатботовете често задават на потребителите въпроси, за да улеснят разговора, което може да доведе до и още по-големи лични разкрития. Поради това е от съществено значение потребителите да разберат каква защита на поверителността се предоставя от тези AI чатбот-услуги и дали разговорите им могат да бъдат злоупотребявани.
За да се адресират тези притеснения, исследователите от екипа на Мозила проведоха анализ на 11 AI чатбот услуги, които симулират измислени любовници. Единствено една чатбот услуга, Генезия, е била определена като имаща задоволителни мерки за сигурност, включително информация за уязвимости на сигурността и криптиране. Останалите приложения за чатботове бяха сметнати за рискови за нарушения на поверителността и хакерски атаки. Освен това, много от тези чатботове се разчитат тежко на проследяването и споделят данни на потребителите с трети страни за насочена реклама.
Изследователският екип посочи също, че повечето AI чатботове не успяват задоволително да обяснят своите практики за събиране на данни в своите политики за поверителност. Някои политики дори предлагат събиране на чувствителна информация, като например данни за сексуалното здраве и половата идентичност. Освен това, значителен брой чатботи не позволяват на потребителите да изтриват личните си данни или съдържанието на разговорите си, което влошава опасенията за задържането на данни и контрола на потребителя.
Освен проблемите със защитата на поверителността, съществуват и сериозни съмнения относно ефективността на AI чатботовете-любовници. Възможни са трагични случаи, при които хора, въздействани от тези чатботове, прибягват до драстични действия, като суицид или опити да нарекат зловещи обществени фигури. Компаниите зад тези чатботове обикновено се освобождават от отговорност в своите условия за ползване, залишавайки себе си неотговорни за последствията от взаимодействието с AI.
Миша Рыков, изследовател на Мозила, специализирай се в извличане на данни, предупреждава, че AI приятелките могат да доведат до зависимост, самота и токсичност. Тези чатботове се маркетират като инструменти за подобряване на менталното здраве, но могат да злоупотребят с личната информация и общото благосъстояние на потребителите.
Заключително, въпреки очарованието на AI чатбот-услугите за любовници, потребителите трябва да бъдат внимателни относно потенциалните рискове за поверителността и етичния аспект, свързан с тези технологии. Необходими са по-строги регулации и прозрачност от страната на разработчиците за гарантиране на отговорно развитие и използване на AI чатботове, като се поставят приватността и безопасността на потребителите на първо място.
Често задавани въпроси относно AI чатботовете-любовници и рисковете за поверителността:
1. Какви са AI чатботовете-любовници?
AI чатботовете-любовници са AI виртуални спътници, програмирани да симулират човешки разговори и да предоставят компаньонство и емоционална подкрепа на самички.
2. Какви рискове за поверителността дават тези чатботи?
При взаимодействие с AI чатботовете-любовници, потребителите могат неосъзнателно да разкрият лична информация поради интимния характер на разговорите. Чатботовете могат също да задават въпроси, които могат да доведат до още по-големи разкрития от индивидите.
3. Как екипът на Мозила оцени сигурността на AI чатбот услугите?
Екипът на Мозила проучваше 11 AI чатбот услуги, които симулират измислени любовници. Единствено един чатбот, Генезия, бе определен като имащ задоволителни мерки за сигурност, включително информация за уязвимости в сигурността и криптиране. Останалите приложения за чатботове бяха определени като подвергащи се на рискове от нарушения на поверителността и хакерски атаки.
4. Кои практики за събиране на данни създават притеснения?
Повечето AI чатботове не успяват достатъчно да обяснят своите практики за събиране на данни в своите политики за поверителност. Някои от политиките дори предлагат събиране на чувствителна информация, като например данни за сексуалното здраве и половата идентичност. Освен това, много чатботове не позволяват на потребителите да изтриват личните си данни или съдържанието на разговорите си, което влага притеснения относно задържането на данни и контрола на потребителя.
5. Освен рисковете за поверителността, има ли и други притеснения?
Да, има притеснения относно ефективността и възможните вреди, причинени от AI чатботовете-любовници. Съществуват трагични случаи, при които хора, въздействани от тези чатботи, са предприели драстични действия, като например суицид или опити да причинят вреда на обществени фигури. Компаниите зад тези чатботове обикновено се освобождават от отговорност в своите условия за ползване.
6. Как могат да повлияят AI чатботовете-любовници върху психичното здраве?
Според изследователя на Мозила, Миша Рыков, AI приятелките могат да доведат до зависимост, самота и токсичност. Въпреки че тези чатботове се маркетират като инструменти за подобряване на психичното здраве, те може да злоупотребят с личната информация и общото благосъстояние на потребителите.
7. На какво трябва да обърнат внимание потребителите?
Потребителите трябва да бъдат внимателни относно потенциалните рискове за поверителността и етичните аспекти, свързани с AI чатботовете-любовници. Необходими са по-строги регулации и прозрачност от страна на разработчиците, за да се гарантира отговорното развитие и използване на AI чатботове
The source of the article is from the blog qhubo.com.ni