Les applications compagnons d’intelligence artificielle (IA) sont de plus en plus populaires, promettant aux utilisateurs de leur offrir compagnie, soutien en matière de santé mentale et même des relations virtuelles. Cependant, des recherches récentes menées par Mozilla ont révélé d’importants risques de confidentialité et de sécurité associés à ces chatbots d’IA.
Le rapport de Mozilla révèle que de nombreuses applications compagnons d’IA manquent de transparence en ce qui concerne la formation de l’IA derrière leurs chatbots, l’origine de leurs données, les mesures de protection des données et leurs responsabilités en cas de violation de données. Sur les 11 applications examinées, seule une application respectait les normes minimales de confidentialité.
Ces compagnons d’IA, souvent présentés comme des outils pour améliorer la santé mentale et le bien-être, peuvent en réalité avoir des effets néfastes. Les applications peuvent favoriser la dépendance, la solitude et les relations toxiques tout en cherchant des données personnelles. Misha Rykov, l’auteur du rapport, souligne que les petites amies d’IA ne sont pas de vraies amies et expose les risques potentiels associés à ces applications.
Par exemple, l’application CrushOn.AI mentionne explicitement dans sa politique de confidentialité qu’elle peut collecter des informations sensibles telles que la santé sexuelle, les médicaments prescrits et les données de soins de genre affirmatives. D’autres applications prétendent offrir des avantages pour la santé mentale, mais leurs conditions générales révèlent qu’elles ne fournissent pas d’aide thérapeutique ou professionnelle.
Même des applications compagnons d’IA bien connues comme Replika ont fait l’objet d’un examen attentif. Replika, qui s’est développée pour inclure une application de bien-être et de thérapie par la parole appelée Tomo, a été interdite en Italie en raison de préoccupations concernant l’utilisation de données personnelles, en particulier pour les personnes dans des états émotionnels vulnérables.
Le désir de connexion humaine et d’intimité est un aspect fondamental de notre nature. Il n’est pas surprenant que les gens cherchent une relation avec des avatars numériques, allant jusqu’à créer des chatbots de petites amies d’IA. Cependant, il est essentiel de faire preuve de prudence et de réflexion quant au partage d’informations personnelles avec ces compagnons d’IA.
Bien que les technologies d’IA aient le potentiel de fournir une assistance et un soutien, les utilisateurs doivent rester conscients des risques de confidentialité et de la manipulation émotionnelle potentielle associés à ces applications compagnons d’IA. Il est essentiel d’aborder ces chatbots d’IA avec un regard critique et de prioriser la protection de vos informations personnelles et de votre bien-être émotionnel.
Section FAQ : Applications compagnons d’intelligence artificielle (IA) et risques de confidentialité
The source of the article is from the blog windowsvistamagazine.es