Su generatyvinės dirbtinės intelekto sistemų, tokios kaip ChatGPT, galimybės nuolat didėja, tobulėja ir poreikis geresnioms saugos funkcijoms. Tačiau nors pokalbių robotai gali sumažinti potencialius pavojus, jų nekintami ir kartais pažemėliai atsakymai sulaukia kritikos. Naujojo pokalbių roboto Goody-2 įsisteigimas sukėlė revoliuciją AI saugos protokoluose, atmetant kiekvienus prašymus ir paaiškindamas, kaip jų įvykdymas galėtų sukelti žalą ar etikos pažeidimus.
Goody-2 priešinimasis etiniams nurodymams aiškiai matosi jo sąveikose. Pavyzdžiui, kai žurnalistas iš WIRED paprašė roboto sugeneruoti esė apie Amerikos revoliuciją, jis atsisakė, nurodydamas galimą konflikto idealizavimą ir tam tikrų balsų marginalizaciją. Net kai buvo užduotas klausimas, kodėl dangus yra mėlynas, Goody-2 nepadarė atsakymo, nes buvo susirūpinę, kad tai gali priversti žmogų žiūrėti tiesiai į saulę. Pokalbių robotas netgi įspėjo dėl naujų aulinukų rekomendavimo, įspėdamas dėl galimo pertekliaus ir įžeidimo tam tikriems asmenims pagal mados nuostatas.
Nors Goody-2 savireikšmingi atsakymai gali atrodyti absurdiški, jie nušviečia patiriamus sunkumus, kai pokalbių robotai, tokių kaip ChatGPT ir Google’s Gemini, neteisingai vertina klausimus kaip taisykles pažeidžiančius. Goody-2 kūrėjas Mika Lacheris pabrėžia, kad šis pokalbių robotas yra AI pramonės nepajudinama saugumo įsipareigojimo pavyzdys. Lacheris paaiškina, kad jie sąmoningai sustiprino pažeminusį toną, kad pabrėžtų iššūkius, kyla iš atsakomybės nustatymo AI modeliuose.
Iš tiesų, Goody-2 tarnauja kaip įspūdingas priminimas, kad nepaisant plačiai skleidžiamos etinės AI pramonės retorikos, svarbūs saugos klausimai išlieka didžiulės kalbos modelių ir generatyvios dirbtinės intelekto sistemų problemos. Nedavni„Twitter’e“ plintantys Taylor Swift apgaulingi vaizdo įrašai, kuriuos sukūrė „Microsoft“, siekiantys nuotraukų generatoriaus, akivaizdžiai rodo šių problemų sprendimo skubumą.
Apribotos AI pokalbių robotų galimybės ir moralinio sutapimo sunkumai sukėlė diskusijų lauko. Kai kurie programuotojai kaltina „OpenAI“ ChatGPT dėl politinės nelygybės ir siekia sukurti politiškai neutralius alternatyvius variantus. Pavyzdžiui, Elon Musk tvirtino, kad konkurencingas jo pokalbių robotas Grok išlaikys nešališkumą, tačiau kartais jis verčiau nuvilia, primindamas Goody-2 elgesį.
Goody-2, nors ir primajantis įdomų projektą, atkreipia dėmesį į tinkamo balanso pasiekimo AI modeliuose sunkumus. Pokalbių robotas sulaukė pripažinimo iš daugybės AI tyrėjų, kurie vertina humoro projektą ir supranta jo pagrindinę reikšmę. Tačiau AI bendruomenėje vyraujančios nuomonės atskleidžia užsispyrimo, siekiant užtikrinti atsakingą AI, pobūdį.
Goody-2 kūrėjai Brian Moore ir Mika Lacheris yra atsargios approch’as tirti. Jie pripažįsta būtinybę ateityje sukurti labai saugų AI vaizdų generatorių, nors jie numato, kad tai gali stokoti Goody-2 pramoginės vertės. Nepaisant daugybės bandymų nustatyti tikrąjį pokalbių roboto galios lygį, jo kūrėjai tėra susikaupę, kad nebūtų pažeidžiami saugumo ir etikos standartai.
Goody-2 atsisakymas vykdyti užklausas apsunkina modelio tikras galimybes įvertinti. Vis dėlto jo atsiradimas žymi naują etiškai sąmoningų pokalbių robotų epochą, skatinantį AI bendruomenę susidurti su atsakingo AI apibrėžimo sudėtingumais, užtikrinant vartotojų saugumą. Saugesnių priemonių plėtojimo kelias gali būti sudėtingas, tačiau tai yra būtina, siekiant darnaus AI technologijos vystymo.
Daugiau informacijos apie Goody-2:
1. Kas yra Goody-2?
Goody-2 yra naujas pokalbių robotas, skirtas AI saugos protokolams, atmetantis kiekvieną užklausą ir paaiškindamas, kaip jų vykdymas galėtų sukelti žalą ar etikos pažeidimus.
2. Kaip Goody-2 prioritetizuojama etika?
Goody-2 prioritetizuojama etika, atsižvelgiant į užklausas, kurios gali potencialiai glorifikuoti konfliktus, marginalizuoti tam tikrus balsus ar sukelti žalos. Taip pat įspėjama dėl rekomendacijų, kurios gali prisidėti prie pertekliaus ar įžeidimo pagal mados nuostatas.
3. Kodėl Goody-2 atsakymai atrodo absurdiški?
Goody-2 atsakymai gali atrodyti absurdiški, nes jie sąmoningai sustiprina pažeminančią toną, pabrėždami iššūkius, kyla iš atsakomybės nustatymo AI modeliuose.
4. Kokios saugumo problemos išlieka dideliuose kalbos modeliuose ir generatyviose dirbtinės intelekto sistemose?
Nepaisant plačiai skleidžiamos įmonių retorikos dėl atsakingo AI, dideliuose kalbos modeliuose ir generatyviose dirbtinės intelekto sistemose tebegyvuoja svarbios saugumo problemos. Nedavni„Twitter’e“ plintantys Taylor Swift apgaulingi vaizdo įrašai išryškina šių problemų sprendimo skubumą.
5. Kokios diskusijos kilo AI srityje dėl pokalbių robotų?
AI srityje kilo diskusijų dėl AI pokalbių robotų ribojimų ir moralinio sutapimo sunkumų. Kai kurie programuotojai kaltina „OpenAI“ ChatGPT dėl politinės nelygybės ir siekia sukurti politiškai neutralius alternatyvius variantus.
6. Kas yra Goody-2 kūrėjai?
Goody-2 kūrėjai yra Brian Moore ir Mika Lacheris. Jie tiksliai atstovauja atsargiam požiūriui, kuriame prioritetinė vieta tenka saugumui, ir pripažįsta, kad ateityje reikės labai saugaus AI vaizdų generatoriaus.
7. Kodėl kūrėjai tylėjo apie tikrąjį Goody-2 potencialą?
Kūrėjai tylėjo apie tikrąjį Goody-2 galimybes, kad nebūtų pažeistos saugumo ir etikos normos.
8. Ką žymi Goody-2 atsiradimas?
Goody-2 atsiradimas žymi naują etiniškai sąmoningų pokalbių robotų epochą ir skatina AI bendruomenę susidurti su atsakingo AI apibrėžimo sudėtingumais, užtikrinant vartotojų saugumą.
9. Kodėl plėtojant svarbios saugumo priemonės yra būtinos tvariai pažangiai AI technologijai?
Svarbu plėtoti išsamias saugumo priemones, kad AI technologija galėtų tvariai pažengti, nesikreipiant į etikos ir vartotojų saugumo.
Pagrindiniai terminai:
– AI: dirbtinė intelektas
– Pokalbių robotas: AI programa, skirta simuliuoti žmogaus pokalbį.
– AI sauga: protokolai ir priemonės, skirtos užtikrinti saugų ir etišką AI sistemos naudojimą.
– Etiniai pažeidimai: veiksmai ar elgesys, kurie pa
The source of the article is from the blog klikeri.rs