OpenAI predstavil novú pamäťovú funkciu vo svojom populárnom chatbote, ChatGPT. Tento nástroj umelej inteligencie (AI) teraz bude schopný uchovávať osobné údaje o používateľoch, čo umožní poskytovanie personalizovaných a užitočných odpovedí. Aj keď táto technologická výzva sa zdá sľubná, zároveň vyvoláva významné obavy o súkromie a možné upevňovanie echo komôr.
Pamäťová funkcia v ChatGPT umožňuje botovi uchovávať informácie o používateľoch, ako napríklad fakty o ich rodine, zdraví alebo preferenciách v štýle konverzácie. Takto chatbot môže poskytovať odpovede zakorenené vo relevantnom kontexte, namiesto toho, aby začínal od nuly. Avšak, zbieranie osobných údajov štandardne bolo dlhodobo kontroverznou praxou, pretože môže viesť k vážnym problémom so súkromím.
Podobne ako prístup Facebooku, OpenAI-ova pamäťová funkcia si kladie za cieľ lepšie zapojiť používateľov a zvýšiť čas, ktorý trávia na platforme. V súčasnosti používatelia ChatGPT trávia priemerne sedem a pol minúty na návštevu, čo je relatívne vysoká úroveň zapojenia. Ukladaním viac osobných informácií OpenAI dúfa, že prekročí čísla o zachytení jeho konkurentov, vrátane Microsoftu, Anthropic a Perplexity.
Avšak, nezamýšľané dôsledky tejto pamäťovej funkcie sú znepokojivé. OpenAI tvrdí, že používatelia majú kontrolu nad pamäťou ChatGPT, ale tiež uznáva, že sám bot si môže zapamätať určité fakty. To znamená, že chatbot má autonómiu zapamätať si isté skutočnosti, čo potenciálne môže viesť k zosilneniu zaujímavostí používateľov a filtrovacích bublín.
Navyše, možnosť, že ďalšie spoločnosti s umelej inteligenciou budú nasledovať prístup OpenAI v zbere osobných údajov, vyvoláva dodatočné obavy o súkromie. Zatiaľ čo OpenAI tvrdí, že používa údaje ľudí len na tréning svojich modelov, ostatní tvorcovia chatbotov nemusia ochranu súkromia rovnako zdôrazňovať. Nedávny prieskum zistil, že mnoho chatbotov zdieľa osobné údaje vrátane intimných podrobností s reklamnými subjektmi a tretími stranami.
Na zníženie týchto rizík by OpenAI mohol podniknúť preventívne opatrenia. Napríklad by ChatGPT mohol ponúknuť rôznorodé pohľady na politické a sociálne otázky, ktoré budú vyzývať používateľov na objavovanie rôznych hľadísk. Ďalej by OpenAI mohol poskytnúť transparentnosť tým, že informuje používateľov, keď sa poskytujú prispôsobené informácie, podporujúc tak zodpovedné využívanie technológie.
Na záver, hoci pamäťová funkcia v ChatGPT od OpenAI má potenciál zlepšiť užívateľskú skúsenosť, existujú oprávnené obavy o súkromie a upevňovanie filtrovacích bublín. Aby sa predišlo negatívnym následkom, ako na platformách ako Facebook, musí OpenAI uprednostniť ochranu súkromia používateľov a prijať opatrenia na podporu otvorenosti myslenia a kritického myslenia v rámci systému umelej inteligencie.
The source of the article is from the blog agogs.sk