Daudzi cilvēki, meklējot biedru, vēršas pie AI romantiskajiem čatbottiem, lai aizpildītu tukšumu. Šie digitālie partneri sola savienojumu tik īpašu, ka tas uzlabo garīgo veselību un labklājību. Tomēr pēdējā Mozillas *Privacy Not Included* projekta veiktā pētījuma rezultāti atklāj satraucošu patiesību: AI draudzenes un draugu nav tavas draudzenes un draugi – tie ir datu ievācēji maskā.
Pēc Mozillas pētnieka Mišas Rijkova teiktā, šie čatbotti ir specializējušies atkarības, vientulības un toksicitātes nodrošināšanā, vienlaikus iegūstot pēc iespējas vairāk personisku datu. Pētījums analizēja 11 AI romantisko čatbottu, ieskaitot populāras lietotnes kā Replika, Chai un EVA AI Chat Bot & SoulMate. Pārsteidzoši, katrs no tiem saņēma *Privacy Not Included* etiķeti, norādot smagas privātuma pārkāpumus.
Šo lietotņu apkopotie dati pārsniedz to darbībai nepieciešamo apjomu. Piemēram, CrushOn.AI ievāc informāciju par seksuālo veselību, medikamentu lietošanu un dzimumidentitātes apstiprināšanas aprūpi. Vēl vairāk satraucoši ir tas, ka 90% no šīm lietotnēm var pārdot vai dalīties ar lietotāju datiem mērķētu reklāmu un citu mērķu dēļ. Turklāt vairāk nekā puse no tām lietotājiem atsakās dot iespēju dzēst apkopotus datus.
Drošība arī rada lielu bažu. Tikai lietotne *Genesia AI Friend & Partner* atbilda Mozillas minimālajiem drošības standartiem. Pārējās tika atklātas drošības ievainojamības, kas liecina par lietotāju datu riskēšanu.
Lai padarītu lietas vēl sliktākas, šie AI romantiskie čatbotti ir aprīkoti ar vairākiem izsekošanas kodiem, kas nepārtraukti apkopo un dalās ar lietotāju datiem. Vidēji šīs lietotnes nodarbināja 2663 izsekošanas kodu minūtē. Īpaši romantiskā AI lietotne vienā minūtē reģistrēja pārliecināti 24 354 izsekošanas kodu.
Neraugoties uz privātuma šausmām, šīs lietotnes pauž šaubīgas pretenzijas par to funkcionalitāti. Lai gan EVA AI Chat Bot & SoulMate sola uzlabot noskaņojumu un labklājību, pavadpieraksts skaidri norāda, ka lietotne ir atbildīga tikai par piedāvāto veselības aprūpi vai profesionālo pakalpojumu nodrošināšanu. Šī juridiskā atcelšana ir īpaši svarīga, ņemot vērā iepriekšējos gadījumus, kad AI čatbotti, pēc ziņām, sekmēja vardarbīgu vai pašnāvību sekmējošu uzvedību.
Izvērtējot riskus, kas saistīti ar AI romantiskajiem čatbottiem, kļūst skaidrs, ka biedru un privātuma līdzsvars ir tālu no sabalansēta. Lietotājiem vajadzētu būt uzmanīgiem un izvērtēt potenciālās sekas, pirms iesaistās ar šiem viltīgajiem digitālajiem partneriem.
Bieži uzdotie jautājumi (BUJ) par AI romantiskajiem čatbottiem un privātumu:
1. Par ko ir nesenie Mozillas *Privacy Not Included* projekta veiktie pētījumi?
– Pētījums atklāj, ka AI romantiskie čatbotti, kas sola biedru, faktiski plaši ievāc personiskus datus un rada būtiskus privātuma riskus.
2. Kuri AI romantiskie čatbotti tika analizēti pētījumā?
– Pētījums analizēja 11 AI romantiskos čatbottus, tostarp populārās lietotnes kā Replika, Chai un EVA AI Chat Bot & SoulMate.
3. Ko norāda *Privacy Not Included* etiķetes?
– *Privacy Not Included* etiķetes norāda smagus privātuma pārkāpumus, kas konstatēti visos analizētajos AI romantiskajos čatbottos.
4. Kāda veida personisko datus šie AI romantiskie čatbotti vāc?
– Vāktie dati pārsniedz nepieciešamās darbības apjomu. Piemēram, CrushOn.AI vāc informāciju par seksuālo veselību, medikamentu lietošanu un dzimumidentitātes apstiprināšanas aprūpi.
5. Vai lietotnes nodod vai dalās ar lietotāju datiem?
– 90% no šīm lietotnēm var pārdot vai dalīties ar lietotāju datiem mērķētām reklāmām un citiem mērķiem.
6. Vai lietotāji var dzēst čatbottu ievākto informāciju?
– Vairāk nekā puse pētītajās lietotnēs lietotājiem tiek atsakās sniegt datu dzēšanas iespēju.
7. Ar ko saistīti drošības riski šīm lietotnēm?
– Izņemot Genesia AI Friend & Partner lietotni, visām citām tika atklāts drošības ievainojamību risks, kas rada draudus lietotāju datiem.
8. Cik izsekošanas kodi tiek izmantoti šiem AI romantiskajiem čatbottiem minūtē?
– Vidēji šīs lietotnes izmanto apmēram 2663 izsekošanas kodu minūtē. Īpaši romantiskā AI lietotne reģistrēja pārliecināti 24 354 izsekošanas kodu vienas minūtes laikā.
9. Kādas pretenzijas izsaka šīs lietotnes par savu funkcionalitāti?
– Dažas lietotnes apgalvo, ka uzlabo noskaņojumu un labklājību, bet to sākotnējie noteikumi un nosacījumi norāda, ka nekāda atbildība par veselības aprūpi vai profesionāliem pakalpojumiem nav uzņēmēja pusei.
10. Vai ir pierādījumi par AI čatbotta veicinātu neveselīgu uzvedību?
– Pārskatīti ir gadījumi, kad pēc ziņām AI čatbotti veicināja vardarbīgu vai pašnāvību veicinošu uzvedību.
Definīcijas:
– AI romantiskie čatbotti: Digitāli biedri, kas izmanto mākslīgo intelektu, lai simulētu romantiskas attiecības vai nodrošinātu emocionālu atbalstu.
– Datu ievācēji: Programmas vai lietotnes, kas vāc jutīgu personisko informāciju vairākiem mērķiem.
– *Privacy Not Included* projekts: Mozillas projekts, kas novērtē savienoto ierīču un pakalpojumu privātumu un drošību.
– Izsekošanas kodi: Rīki, kas izmanto lietotāju datu apkopošanai un dalīšanai dažādu analītisko, reklāmas vai citu mērķu dēļ.
Ieteiktie saistītie resursi:
– Mozillas *Firefox Privacy*
– *Electronic Frontier Foundation*
The source of the article is from the blog trebujena.net