Neseniai Niujorke pradėtas naudoti dirbtinio intelekto pokalbių robotas MyCity susiduria su kritika dėl neteisingų atsakymų ar patarimų, galinčių verslo savininkams sukelti teisinių problemų. Šis pokalbių robotas, pristatomas kaip revoliucingas dirbtinio intelekto technologijų naudojimas, buvo sukurtas verslo savininkams teikti patikimą informaciją atsakydamas į jų klausimus. Tačiau The Markup tyrimų žurnalistai atrado netikslumų pokalbių roboto atsakymuose.
Meras Ericas Adamsas, kuris buvo pritariančioji netestuotų technologijų įdiegimo mieste dalis, pripažino roboto trūkumus ir pabrėžė, kad jis vis dar yra pilotinėje stadijoje. Jis pabrėžė būtinybę spręsti problemas ir tobulinti sistemą, paaiškindamas, kad technologijos naudojimas reikalauja derinimo realioje aplinkoje.
Tai nėra pirmas kartas, kai meras Adamsas rėmė technologijas, kurios neatitiko lūkesčių. Praėjusiais metais 400 svarų robotas buvo įdėtas į Times Square metro stotį siekiant padėti kovoti su nusikalstamumu. Tačiau jis buvo išimtas po kelių mėnesių dėl jo neefektyvumo ir apribojimų. Keliautojai pastebėjo, kad robotas nesuteikė jokio naudingumo ir negalėjo įveikti laiptų.
Nepaisant pranešimų apie netikslumus, MyCity pokalbių robotas lieka prieinamas internete ir toliau teikia neteisingus atsakymus. Pavyzdžiui, klaidingai teigia, jog parduotuvės savininkai gali atsisakyti priimti grynaisiais, nors miesto taryba 2020 m. priėmė įstatymą, kuris draudžia tokius veiksmus. Be to, robotas vis dar mano, kad minimali alga yra 15 dolerių per valandą, nors nuo 2024 m. ji buvo pakelta iki 16 dolerių.
Pokalbių robotas remiasi „Microsoft’s Azure“ dirbtinio intelekto paslauga, kuri yra pažeidžiama bendram generuojančioms dirbtinio intelekto technologijų platformoms, kaip, pavyzdžiui, „ChatGPT“, trūkumams. Šiomis platformomis žinoma, kad jos kartais sukuria klaidingą ar sugalvotą informaciją su dideliu pasitikėjimu. „Microsoft“ neskelbė specifinių netikslumų priežasčių, bet įsipareigojo bendradarbiauti su miestu šiuos išspręsti.
Miesto Technologijų ir Inovacijų Biuras taip pat pripažįsta problemas ir planuoja jas greitai išspręsti. Jie tiki reikšmingomis pagerėjimais pokalbių roboto tikslume jau kitą savaitę. Tačiau nei „Microsoft“, nei Miesto Rūmai nesuteikė tolesnių detalių apie konkrečias klaidų priežastis ar tai, kaip jos bus išspręstos.
Adresuojant susirūpinimą, MyCity pokalbių roboto svetainės atsakymų deklaracijos buvo atnaujintos, išaiškinant išsamiai, kad atsakymai gali būti neteisingi arba nepilni. Versle įspėjama, kad nereiktų naudotis pokalbių roboto atsakymais kaip teisiniais ar profesionaliais patarimais.
Andrew Rigie, Niujorko viešbučių asociacijos direktorius, gavo atsiliepimų iš sumaištytų verslo savininkų, kurie susidūrė su netiksliais pokalbių roboto atsakymais. Nors jis vertina miesto pastangas naudoti dirbtinį intelektą verslui padėti, Rigie įspėja, kad pasikliauti neteisingu pokalbių roboto nurodymu gali turėti sunkių teisinių pasekmių. Jis pabrėžia svarbą užtikrinti pokalbių roboto informacijos tikslumą ir patikimumą siekiant įgyvendinti jo numatytą paskirtį.
DUK:
Kas yra MyCity pokalbių robotas?
A: MyCity pokalbių robotas yra dirbtinio intelekto pokalbių robotas, sukurtas Niujorko miesto verslo savininkams teikti informaciją ir pagalbą.
Kokie buvo kai kurie pranešti netikslumai?
A: Pokalbių robotas pateikė neteisingus patarimus, pvz., kad darbdaviai gali pasiimti dalgį iš savo darbuotojų patarimų ir kad nėra jokių reguliavimo reikalavimų dėl darbuotojų darbo tvarkaraščių keitimo.
Kokiomis technologijomis pasitelkiamas MyCity pokalbių robotas?
A: Pokalbių robotas naudoja „Microsoft’s Azure“ dirbtinio intelekto paslaugą.
Kokie yra generatyvios dirbtinio intelekto technologijų platformos?
A: Generatyvios dirbtinio intelekto technologijų platformos, tokiomis kaip „ChatGPT“, naudoja dirbtinio intelekto algoritmus generuoti atsakymus pagal įvestį. Žinoma, kad jos kartais generuoja netikrą informaciją su dideliu pasitikėjimu.
Ar bus ištaisytos klaidos?
A: Tie patys „Microsoft“ ir Miesto Technologijų ir Inovacijų Biuras dirba siekdami ištaisyti netikslumus pokalbių roboto atsakymuose. Reikšmingi pagerėjimai tikimasi artimoje ateityje.
Šaltinis: [REUTERS](https://www.reuters.com/)
The source of the article is from the blog aovotice.cz