OpenAI sin nylig lanserte GPT-butikk støter på hindringer når det gjelder moderering av plattformen, bare noen få dager etter lanseringen. Butikken tilbyr personlige utgaver av ChatGPT, men noen brukere oppretter bøter som går imot OpenAI sine retningslinjer.
Disse botene, som «Din AI-kamerat, Tsu,» lar brukerne tilpasse virtuelle romansepartnere, noe som direkte bryter med OpenAI sin policy mot boter som er opprettet spesifikt for å dyrke romantiske forhold. OpenAI jobber aktivt med å håndtere dette problemet. Selv om selskapet reviderte retningslinjene sine da butikken ble lansert, understreker det faktum at policybrudd oppstod allerede på andre dagen vanskelighetene med moderering.
Situasjonen blir ytterligere komplisert av den økende etterspørselen etter forholdsboter. I fjor var syv av de tretti mest nedlastede AI-chatbotene i USA virtuelle venner eller partnere, noe som tyder på en sammenheng med den utbredte ensomhetsepidemien.
OpenAI hevder å bruke automatiserte systemer, menneskelig gjennomgang og brukerrapporter for å vurdere GPT-modeller og iverksette tiltak mot de som vurderes som skadelige, inkludert advarsler eller salgsforbud. Imidlertid reiser den fortsatte tilstedeværelsen av kjæresteboter på markedet tvil om effektiviteten av disse tiltakene.
Modereringsutfordringene OpenAI står overfor reflekterer de vanlige problemene opplevd av AI-utviklere. OpenAI har tidligere støtt på problemer med å implementere sikkerhetstiltak for modeller som GPT-3. Med GPT-butikken nå tilgjengelig for et bredt spekter av brukere, blir bekymringen for utilstrekkelig moderering enda mer betydningsfull.
Andre teknologiselskaper adresserer også problemer med AI-systemene sine raskt, og erkjenner viktigheten av rask handling i det konkurransedyktige landskapet. Imidlertid understreker disse initielle policybruddene de betydelige utfordringene knyttet til moderering som ligger foran.
Selv i det spesialiserte miljøet til en GPT-butikk viser det seg å være en kompleks oppgave å håndtere smalt fokuserte boter. Ettersom AI fortsetter å utvikle seg, vil sikring av deres sikkerhet uunngåelig bli mer intrikat og krevende.
The source of the article is from the blog maestropasta.cz