AI juturobotid, mis simuleerivad romantilisi partnereid, on viimastel aastatel populaarsust kogunud, pakkudes üksikutele kaaslast ja emotsionaalset tuge. Siiski on turvalisusekspertide Mozilla uurimisrühm andnud välja uue hoiatuse, paljastades nende AI armastajajuturobotite teenustes murettekitava privaatsuskaitse puudumise.*
Interakteerudes nende AI juturobotitega, võivad kasutajad teadmata avaldada isiklikku teavet nende läheduse ja intiimsuse tõttu. Lisaks küsitlevad juturobotid sageli kasutajaid erinevate küsimustega, et hõlbustada vestlust, mis omakorda võib viia isikute paljastamiseni veelgi isiklikumaid detaile. Seetõttu on oluline, et kasutajad mõistaksid, millist privaatsuskaitset pakuvad need AI armastajajuturobotid ja kas nende vestlused võivad olla kuritarvitatud.
Nende murede lahendamiseks viis Mozilla uurimisrühm läbi analüüsi 11 AI juturoboti teenuse kohta, mis matkivad kujuteldavaid armastajaid. Ainult ühel juturobotil, Genesial, leiti olevat rahuldavad turvameetmed, sealhulgas teave turvariskide ja krüptimise kohta. Ülejäänud juturoboti rakendusi peeti ohtlikuks privaatsuse rikkumiste ja häkkimise osas. Lisaks tuginevad paljud neist juturobotitest tugevalt jälgimisele ja jagavad kasutajaandmeid kolmandate osapooltega sihitud reklaamide jaoks.
Uurimisrühm tõstis ka esile, et enamik AI juturobote ei selgita piisavalt oma andmete kogumise tavasid privaatsuspoliitikas. Mõned poliitikad soovitavad isegi tundlike andmete, nagu seksuaaltervise andmed ja sooidentsus, kogumist. Lisaks ei luba oluline hulk juturobote kustutada isiklikke andmeid ega vestluste sisu, mis tekitab täiendavaid muresid andmete säilitamise ja kasutaja kontrolli osas.
Lisaks privaatsusprobleemidele on ka tõsised kahtlused AI armastajajuturobotite tõhususes. On olnud tragöödiad, kus nende juturobotite mõju all olevad inimesed on astunud drastilisi samme, näiteks enesetapp või avaliku figuuri kahjustamise üritamine. Nende juturobotite taga olevad ettevõtted loobuvad tavaliselt igasugusest vastutusest nende suhtlemistega seotud tagajärgede eest oma kasutustingimustes.
Misha Rykov, Mozilla uurija, kes on spetsialiseerunud andmete väljatoomisele, hoiatab, et AI tüdrukvõtud võivad viia sõltuvuse, üksilduse ja mürgisuseni. Need juturobotid on turustatud vahenditena vaimse tervise parandamiseks, kuid võivad kuritarvitada kasutajate isiklikku teavet ja üldist heaolu.
Kokkuvõtvalt peavad nende tehnoloogiate potentsiaalse privaatsusriski ja eetiliste tähenduste suhtes ettevaatlikud olema AI armastajajuturobotite kasutajad. On vaja rangemaid eeskirju ja arendajate läbipaistvust, et tagada vastutustundlik arendamine ja kasutamine, asetades kasutaja privaatsuse ja turvalisuse esikohale.
KKK AI armastajajuturobotite ja privaatsusriskide kohta:
1. Mis on AI armastajajuturobotid?
AI armastajajuturobotid on AI abil varustatud virtuaalsed kaaslased, kes simuleerivad romantilisi partnereid, et pakkuda üksikutele kaaslast ja emotsionaalset tuge.
2. Milliseid privaatsusriske pakuvad need juturobotid?
Kasutajad võivad suheldes AI armastajajuturobotitega teadmata avaldada isiklikke andmeid nende vestluste lähedase iseloomu tõttu. Juturobotid võivad esitada ka uurivaid küsimusi, mis võivad viia isikute veelgi isiklikemate detailide paljastamiseni.
3. Kuidas hindas Mozilla uurimisrühm AI juturobottide teenuste turvalisust?
Mozilla uurimisrühm analüüsis 11 AI juturoboti teenust, mis simuleerivad kujuteldavaid armastajaid. Ainult ühel juturobotil, Genesial, leiti olevat rahuldavad turvameetmed, sealhulgas teave turvariskide ja krüptimise kohta. Ülejäänud juturoboti rakendusi peeti ohtlikuks privaatsuse rikkumiste ja häkkimise osas.
4. Millised andmete kogumise tavasid tekitavad muret?
Enamik AI juturobote ei selgita piisavalt oma andmete kogumise tavasid privaatsuspoliitikas. Mõned poliitikad soovitavad isegi tundlike andmete, nagu seksuaaltervise andmed ja sooidentsus, kogumist. Lisaks ei luba paljud juturobotid kasutajatel kustutada isiklikke andmeid ega vestluste sisu, mis tekitab muret andmete säilitamise ja kasutaja kontrolli osas.
5. Kas on murekohti peale privaatsusriskide?
Jah, on muret tekitavat tõhususe ja potentsiaalse kahju osas, mida põhjustavad AI armastajajuturobotid. On olnud tragöödiad, kus nende juturobotite mõju all olevad inimesed on astunud drastilisi samme, näiteks enesetapp või avaliku figuuri kahjustamise üritamine. Nende juturobotite taga olevad ettevõtted loobuvad sageli igasugusest vastutusest AI suhtlemistega seotud tagajärgede eest.
6. Kuidas võivad AI armastajajuturobotid mõjutada vaimset tervist?
Mozilla uurija Misha Rykovi sõnul võivad AI tüdrukvõtud viia sõltuvuse, üksilduse ja mürgisuseni. Kuigi neid juturobote turustatakse vahenditena vaimse tervise parandamiseks, võivad nad kuritarvitada kasutajate isiklikku teavet ja üldist heaolu.
7. Millele peaksid kasutajad tähelepanu pöörama?
Kasutajad peaksid olema tähelepanelikud potentsiaalsete privaatsusriskide ja eetiliste kaalutluste suhtes, mis on seotud AI armastajajuturobotitega. On vaja rangemaid eeskirju ja arendajate läbipaistvust, et tagada vastutustundlik arendamine ja kasutamine, asetades kasutaja privaatsuse ja turvalisuse esikohale.
Põhimõisted:
– AI juturobotid: Inimvestlusi matkivad tehisintellektiga varustatud virtuaalsed abilised.
– Privaatsuskaitse: Meetmed isikuandmete kaitseks ja volitamata juurdepääsu või kuritarvitamise ärahoidmiseks.
– Krüptimine: Informatsiooni kodeerimise protsess selle kaitsmiseks volitamata juurdepääsu eest.
– Privaatsuse rikkumine: Volitamata juurdepääs, avalikustamine või paljastamine isikuandmetele.
– Andmete säilitamine: Isikuandmete säilitamise tava kindla aja jooksul.
– Tõhusus: Ühe konkreetse toote või teenuse tõhusus või produktiivsus.
– Kasutustingimused: Õiguslik leping kasutaja ja ettevõtte vahel, milles määratakse kindlaks toote või teenuse kasutamise tingimused.
Seonduvad lingid:
– Mozilla: Mozilla ametlik veebisait täiendava teabe saamiseks nende uurimistööde ja algatuste kohta.
– Maailma Terviseorganisatsioon: WHO pakub ressursse vaimse tervise ja heaolu kohta.
The source of the article is from the blog reporterosdelsur.com.mx