Pasaulinio lyderio dirbantis su dirbtine intelektu OpenAI pradėjo diskusiją apie galimybę kurti suaugusiems skirtą turinį naudojant savo AI technologiją, kuri žinoma dėl įžanginių kalbos modelių, tokių kaip ChatGPT, DALL-E vaizdų kūrėjas ir ekskliuzyvinis Sora vaizdo kūrėjas. Šios platformos paprastai ribojo vartotojų kurtą turinį, laikomą nesaugiu darbui (NSFW), įtraukiant erotikos ir pornografinio turinio sritis.
Organizacija išplatino dokumentą, kuriame prašoma atsiliepimų dėl jos AI saugumo politikos, nurodydama, kad ji svarsto atsakingą nesaugaus darbo aplinkoje turinio generavimą. Šis terminas paprastai apima medžiagas, kurios netinka darbo aplinkai, apimančias erotinius, smurtinius ar aiškų turinį.
Dalyvaujant NPR, OpenAI produkto lyderis Joanne Jang perduoda kompanijos ketinimą pradėti dialogą dėl būtinybės palaikyti draudimą erotiniams tekstams ir nuotraukoms, kuriuose yra nuogumo. OpenAI teigia, kad gali būti pagrįstų atvejų, kai tokį turinį galėtų reikėti vartotojams.
OpenAI įsipareigoja svarstyti vartotojų amžius per savo peržiūrą ir tvirtai atmeta galimybę įgalinti giliai išklijuojamas manipuliacijas, kurios išnaudoja realių asmenų panašumus. Naujausiais metais šio tipo technologija paskatino neteisingą naudojimą, įskaitant pornografinio turinio gamybą, kuriame dalyvauja garsenybės, ir galėtų būti lengvai panaudota šmeižti ar priekabiškumui kitose situacijose.
Be to, Jang pabrėžia, kad tyrinėjant šį klausimą, OpenAI nesiveržia į AI generuojamos pornografijos kūrimą. Šio tyrimo rezultatai labai tikėtina priklausys nuo atsiliepimų, kuriuos OpenAI gaus į paskelbtą dokumentą ir ar sugebės nustatyti gaires, kurios panaikins piktnaudžiavimą ir užtikrins atskaitingumą.
Svarbūs klausimai, iššūkiai ir kontroversijos:
– Kaip OpenAI užtikrins, kad bet koks AI sugeneruotas nesaugus darbo aplinkoje turinys būtų etiškas ir pasitinkamas? Pagrindinis iššūkis yra nustatyti aiškias gaires, apibrėžiančias etinius ribas ir sutikimą. Tai aktualu, nes esantys AI modeliai neturi galimybės nustatyti sutikimo ir gali potencialiai kurti vaizdus ar rašyti tekstą remdamiesi viešaisiais veikėjais ar asmenimis, kurie nebuvo suteikę savo leidimo.
– Kokius mechanizmus OpenAI įdiegs, kad AI negalėtų kurti neteisėto ar žalos turinio? OpenAI turi įgyvendinti griežtus turinio moderavimo strategijas ir technologijas, kad būtų užkirstas kelias neteisėtam medžiagoms kaip vaikų pornografija, nesutikimu pagrįstoms nuotraukoms ar turiniui, kuris skatina smurtą, platinimui.
– Kaip įmanoma spręsti potencialius AI sugeneruoto suaugusiems skirtos turinio pasirinkimo iššūkius? AI sistemos gali įtvirtinti visuomenės būdingus nusistatymus, esančius jų mokymo duomenyse. Yra rizika, kad AI sugeneruotas suaugusiems skirtas turinys galėtų sustiprinti neigiamus stereotipus ar neteisingą genderio, rasės ir seksualumo vaizdavimą.
– Ar AI sugeneruotas suaugusiems skirtas turinys gali prisidėti prie visuomenės problemų, tokios kaip asmenų objektifikacija? Vyrauja diskusija apie suaugusiems skirta turinio visuomeninį poveikį, ir ginčytina, kokią vaidmenį gali atlikti AI jo didinime.
Pranašumai:
– AI sugeneruotas turinys potencialiai gali pasiūlyti saugesnę alternatyvą žmogui atliekamai pornografijai, mažindamas išnaudojimą, susijusį su suaugusiųjų pramogų pramonės.
– Tinkamai sutikus suaugusiems, tai galėtų patenkinti įvairius fantazijų būdus, neliečiančius realių asmenų, taip galbūt didinant privatumą ir sutikimą suaugusiųjų turinio vartojime.
Trūkumai:
– Egzistuoja galimybė, kad AI sugeneruotas turinys gali sumaišyti sutikimo ribas ir leisti turėti labai asmeniško nesutikimo turinį.
– AI naudojimas šiame aspekte taip pat gali potencialiai įprastinti ekstremalius ar nerealistinius seksualinius elgesio modelius, kurie gali vesti prie iškraipytų suvokimų apie artimumą ir sutikimą tikrais santykiais.
Siūlomi susiję nuorodos:
Norėdami sužinoti daugiau apie OpenAI iniciatyvas ir projektus, galite apsilankyti OpenAI pagrindiniame puslapyje adresu OpenAI Homepage.
Atminkite, kad ši nuoroda neprivalo turėti konkretaus informacijos apie aptariamą temą, bet suteikia supratimą apie bendrą įmonės veiklą ir etiką.
The source of the article is from the blog papodemusica.com