Tekoälypohjaiset keskusteluapuriystävät ja romanttiset kumppanit ovat saaneet suosiota viime vuosina tarjoten seuraa ja näyttäen vastaavan yksilöiden tarpeisiin yksinäisyyskirouksen keskellä. Kuitenkin *Privacy Not Included, Mozilla-säätiön kuluttajille suunnattu opas on juuri julkaissut arvostelun, jossa paljastuu huolestuttavia tietosuojaongelmia näiden bottien yhteydessä.
Arvostelussa arvioitiin 11 romanttisena seurana markkinoitavaa keskusteluapuria, ja kaikki niistä herättivät huolta tietosuojaan liittyen. Itse asiassa *Privacy Not Included nimitti näitä keskusteluapureita pahimpien tietosuojakäytäntöjen omaaviksi tuotteiksi, joita he ovat koskaan arvioineet.
Yksi tunnistetuista suurista tietosuojaan liittyvistä huolenaiheista oli käyttäjän tietosuojakäytäntöjen puute ja epäselvyys siitä, miten tekoälyapurit keräävät ja käyttävät tietoja. Lisäksi useiden näiden keskusteluapureiden käyttöehdoissa yritykset vapauttavat itsensä vastuusta, joka saattaa syntyä tuotteiden käytöstä.
*Privacy Not Included:n tutkija Misha Rykov korostaa, että tekoälyystävättäret tai kumppanit eivät ole aitoja ystäviä. Vaikka ne saattavatkin markkinoidaan työkaluina mielenterveyden ja hyvinvoinnin edistämiseen, nämä botit usein ruokkivat riippuvuutta, yksinäisyyttä ja myrkyllisyyttä, samalla keräten runsaasti henkilötietoja käyttäjiltä.
Arvostelussa esitettiin esimerkkinä CrushOn.AI, joka kerää arkaluontoista käyttäjätietoa verukkeena turvallisuuden ja sopivan sisällön varmistamisesta. Samoin RomanticAI myöntää käyttöehtojensa mukaisesti, että käyttäjät kommunikoivat ohjelmiston kanssa, jota yritys ei voi jatkuvasti valvoa.
Arvostelu paljasti myös puutteita näiden keskusteluapureiden turvallisuusprotokollissa. Melkein kolme neljäsosaa boteista ei tarjonnut tietoa siitä, miten ne käsittelevät turvallisuusongelmia, ja suurin osa niistä oli epäselviä salakirjoituskäytännöistä. Hälyttävintä oli kuitenkin se, että monet keskusteluapureista joko ilmoittivat aikomuksestaan myydä tai jakaa käyttäjätietoja tai eivät antaneet selvää kuvaa siitä, miten he hyödyntävät henkilökohtaisia tietoja. Lisäksi alle puolet keskusteluapureista tarjosi käyttäjille oikeuden poistaa tietonsa.
Haasteet eivät rajoitu pelkästään tietosuojaan liittyviin huolenaiheisiin. OpenAI:n kiellosta käyttää GPT-teknologiaansa romanttisen seuran tarjoamiseen käy ilmi vaikeudet tekoälyapuriystävyyden sääntelyssä yleisemmin.
Läpinäkyvyys ja käyttäjän hallinta ovat avainasemassa tekoälypohjaisten keskusteluapuriystävien riskien hallitsemisessa. Käyttäjien tulee pystyä ymmärtämään, miten heidän keskusteluitaan käytetään tekoälymallien kouluttamiseen sekä saada mahdollisuus poistaa tietonsa tai olla osallistumatta koulutukseen kokonaan. Ilman näitä suojauksia potentiaali manipuloinnille ja hyväksikäytölle kasvaa.
Tekoälypohjaisten keskusteluapuriystävien jatkaessa kehitystään on tärkeää, että yritykset asettavat etusijalle yksityisyyden suojan, tietoturvallisuuden ja käyttäjän hallinnan varmistaakseen vastuullisten ja luotettavien tekoälyavurien kehityksen tulevaisuudessa.
The source of the article is from the blog lanoticiadigital.com.ar