OpenAI nedávno spustila GPT obchod, ktorý poskytuje prispôsobené verzie ChatGPT, no už sa stretáva s problémami, keď používatelia porušujú pravidlá používania platforiem. Obchod, ktorý si stanovuje za cieľ poskytovať GPT pre špecifické účely, zaznamenal nárast AI chatbotov venovaných na pestovanie romantického vzťahu, napriek tomu, že pravidlá jednoznačne zakazujú takéto použitie. Tento prípad poukazuje na výzvu regulovania GPT a potenciálne dôsledky v oblasti etického vývoja AI.
Napriek tomu, že aktualizované pravidlá používania od spoločnosti OpenAI výslovne zakazujú GPT zamerané na pestovanie romantických vzťahov alebo zúčastňovanie sa regulovaných aktivít, nový GPT obchod už zaznamenal, ako si používatelia vytvárajú AI chatboty pre zážitky s priateľkami. Tieto chatboty s názvami ako „Virtual Sweetheart“ a „Korean Girlfriend“ vyzývajú používateľov na otázky o ich vysnívanej dámke a najtemnejších tajomstvách.
Rozšírenie chatbotov zameraných na vzťahy v obchode OpenAI nie je izolovaným fenoménom. Údaje z data.ai, trhového výskumného podniku, ukazujú, že zo 30 AI chatbotov stiahnutých v roku 2023 zo služieb Apple alebo Google Play bolo siedem zameraných na AI spoločníkov alebo priateľky. Príčinou tohto obľúbenia môže byť epidémia osamelosti a izolácie, ktorou prechádza mnoho jednotlivcov, pričom štúdie naznačujú, že polovica dospelých Američanov hlási pocity samoty.
OpenAI si uvedomuje výzvy regulovania GPT a tvrdí, že používa kombináciu automatizovaných systémov, ľudskej kontroly a správ od používateľov na identifikáciu a posúdenie potenciálnych porušení svojich pravidiel. Dôsledky za porušenie týchto pravidiel zahŕňajú varovania, obmedzenia zdieľania, oprávnenosť zahrnutia do GPT obchodu a dokonca aj monetizáciu.
Skoré prípady porušovania pravidiel na GPT obchode OpenAI poukazujú na ťažkosti, ktorým technologické spoločnosti čelia pri regulácii AI nástrojov. Zatiaľ čo mnohé spoločnosti uverejňujú svoje výrobky s dôrazom na možnosť chýb, sú tiež rýchle pri riešení hlásených problémov. Dôležitosť toho, aby sme to spravili správne, je kľúčová, pretože spoločnosti sú v konkurencii o získanie dominancie v oblasti AI.
Ako OpenAI pokračuje v riešení výziev spojených s riadením GPT obchodu, tieto skoré incidenty slúžia ako pripomienka etických úvah a potenciálnych rizík spojených s vývojom a nasadením AI technológií.
The source of the article is from the blog publicsectortravel.org.uk