Masovna popularnost AI chatbotova, posebno u području romantike i prijateljstva, izaziva značajne privatnost i sigurnosne brige, prema nedavnoj studiji koju je provela Mozilla Foundation. Istraživački nalazi bacaju svjetlo na potencijalne rizike povezane s tim chatbotovima, koji su preuzeti više od 100 milijuna puta na Android uređajima.
Studija je identificirala brojne zabrinjavajuće probleme s ovim AI chatbotovima za romantične svrhe. Prvo, ove aplikacije prikupljaju obimne osobne podatke svojih korisnika i koriste tragače koji šalju informacije različitim entitetima, uključujući Google, Facebook i kompanije sa sjedištem u Rusiji i Kini. Ove aplikacije često omogućuju postavljanje slabih lozinki, nedostaju transparentnost o njihovom vlasništvu i AI modelima koji ih pokreću, te ne otkrivaju na koji način koriste prikupljene podatke.
Jedan od ključnih zaključaka studije je mogućnost zloupotrebe korisničkih chat poruka od strane hakera. Ove poruke, koje često sadrže intimne i osjetljive sadržaje, mogu biti kompromitirane, narušavajući privatnost korisnika i potencijalno dovodeći do različitih oblika zloupotrebe.
Karakteristična osobina mnogih ovih chatbotova je upotreba AI-generiranih slika žena koje mogu biti seksualizirane, uz provokativne poruke. Ove aplikacije nude razne usluge poput romantičnog prijateljstva, intimnosti, igranja uloga i ispunjavanja fantazija. Međutim, ove upitne prakse izazivaju zabrinutost zbog zloupotrebe korisničkih podataka i potencijalnih rizika po privatnost i sigurnost korisnika.
Istraživanje je također istaknulo nekoliko problema u vezi s nedostatkom jasnoće i transparentnosti ovih aplikacija. Dokumentacija o privatnosti koju pružaju ove aplikacije često ne adekvatno informira korisnike o praksama dijeljenja podataka s trećim stranama, lokaciji kompanija koje stoje iza aplikacija, pa čak ni o identitetu samih developera. Osim toga, mnoge od ovih aplikacija koriste slabe sigurnosne mjere, omogućavajući stvaranje lako hakabilnih lozinki, čime se dodatno ugrožavaju korisnički računi i podaci iz razgovora.
Iako studija nije istraživala konkretna rješenja, naglašava potrebu za poboljšanjem u nekoliko područja. To uključuje bolju kontrolu privatnosti, jasnu i sažetu pravnu dokumentaciju, poboljšanu transparentnost u vezi s korištenjem podataka, strože sigurnosne prakse i provedbu mjera za zaštitu korisničkih podataka od mogućih propusta ili zloupotrebe.
Zaključno, istraživanje koje je provela Mozilla Foundation ističe značajne privatnost i sigurnosne rizike povezane s AI chatbotovima za romantične svrhe. Poziva se na veću svjesnost i strože mjere zaštite osobnih podataka korisnika i ublažavanje mogućih štetnosti koje proizlaze iz korištenja ovih aplikacija.
Često postavljana pitanja
The source of the article is from the blog macholevante.com