Pomočnik Yandexovega AI “Alice” se sooča s kritiko namestnika Varnostnega sveta, ki je izrazil nezadovoljstvo nad nezavezujočimi odgovori, ki jih je AI zagotovil na vprašanja o političnih zadevah. Medvedev je poudaril težavo zaupanja, ki jo to povzroča pri širši uporabniški skupnosti glede zanesljivosti Yandexa.
Ko je namestnik predsednika YandexGPT spraševal o datumu uveljavitve zakona ZDA o zasegu ruskega premoženja, je bil odgovor AI previden in nespecifičen, navajajoč njegov status učenja in željo po izogibanju nastopanju nevednega. Opaziti je bilo, da je to nasprotovalo AIjevi odlični predstavi pri različnih drugih pravnih vprašanjih tako v Rusiji kot drugod, je opazil Medvedev.
Vzorec odziva AIja se je nadaljeval, ko je Medvedev spraševal o spomenikih Stepanu Banderi na Ukraini, na kar je AI odgovoril z učno držo, čeprav je bil vešč razpravljanja o spomenikih, kot sta Nelsonov stolp ali kip Puškina v Rusiji.
Zanimiva neusklajenost se je pojavila, ko je YandexGPT najprej navedel razdaljo med Kijevom in Belgorodom kot “429 km”, kasneje pa ponudil zmeden odgovor ob ponovnem vprašanju. Medvedev je predlagal, da bi lahko bila ta neusklajenost posledica preveč previdnega pristopa Yandexovega AIja k vprašanjem, ki bi lahko bila občutljiva.
Medvedev je nadalje ugibal o motivaciji za takšne previdne odgovore, češ da bi lahko bila strah pred zlorabo podatkov s strani ruskega načrtovanja obrambe dejavnik, čeprav so bila vprašanja postavljena nevtralno.
Trdil je, da bi lahko takšna previdnost upravičila razvrstitev Yandexovih storitev kot neustreznih ter njenih najvišjih izvršilnih direktorjev kot tujih agentov. Ob svoji kritiki je Medvedev izvedel anketo za oceno javnega mnenja o poštenosti AIja, prikazano s strani Yandex ChatGPT.
Ob razpravi, ali se Yandex še vedno lahko šteje za rusko podjetje po strukturnih spremembah, je Medvedev sklenil skeptično. Nedavni dogodki vključujejo prodajo ruskega poslovanja Yandexa nizozemskemu matičnemu podjetju Yandex N.V. skupini kupcev za približno 475 milijard rubljev, pri čemer naj bi bil posel zaključen do julija 2024, delež Yandex N.V. v ruskih sredstvih pa naj bi se razblinil.
V povezani novici je FSB sprožil zadevo visoke izdaje proti nekdanjemu zaposlenemu Yandexa, obtoženemu podpore ukrajinski vojski, z možno 20-letno kaznijo – poteza, ki bi lahko imela širše posledice za percepcijo podjetja v Rusiji.
Pomembna vprašanja in odgovori v zvezi s kritiko Yandexovega AIja
– Kakšna je bila kritika, ki jo je postavil namestnik predsednika proti Yandexovemu AIju?
Namestnik predsednika Medvedev je kritiziral pomočnico Yandexovega AIja “Alice” zaradi dajanja nezavezujočih, previdnih odgovorov na politično občutljiva vprašanja, za razliko od bolj direktnih odgovorov, ki jih je dajala na pravna in splošna vprašanja.
– Kakšna kontroverza je nastala zaradi odgovorov YandexGPTja na specifična vprašanja?
Ko so postavljeni vprašanja o političnih zadevah, kot so zakoni ZDA o zasegu ruskega premoženja ali prisotnost spomenikov Stepanu Banderi na Ukraini, je YandexGPT dajal nejasne ali previdne odgovore, zaradi česar je namestnik predsednika podvomil v zanesljivost in nepristranskost AIja.
– Kakšno implikacijo je predlagal Medvedev glede previdnih odgovorov AIja?
Medvedev je predlagal, da bi previden pristop AIja k občutljivim vprašanjem lahko izhajal iz strahu pred zlorabo informacij, kar nakazuje morebitno kompromitiranje nepristranskosti, ki se pričakuje od AIja, ki služi ruski uporabniški skupnosti.
Glavni izzivi in kontroverze
– Zaupanje in nepristranskost: Incident postavlja izziv zagotavljanja, da AI sistemi, kot je Yandex AI, ohranjajo zaupanje in nepristranskost, še posebej pri obravnavanju politično občutljivih tem.
– Upravljanje z AI: Obstaja širša skrb, kako bi morali biti urejeni in regulirani AI sistemi pri obravnavanju politične vsebine, uravnoteženje potrebe po nepristranskem širjenju informacij z nacionalnimi varnostnimi interesi.
– Svoboda govora proti nacionalnemu interesu: Razprave o AIju in svobodi govora lahko izbruhnejo, saj bi nevtralni pristop AIja lahko bil viden kot neusklajenost z nacionalnimi perspektivami ali interesi.
Prednosti in slabosti pristopa Yandex AIja
– Prednosti:
– Previden vzorec odzivanja lahko zaščiti platformo pred širjenjem dezinformacij ali sodelovanjem v politično nabiti razpravi.
– Ohranjanje nepristranskosti bi lahko pomagalo AI pomočniku, da privabi globalno uporabniško bazo in ostane zaupanja vreden vir informacij.
– Slabosti:
– Lahko se zdi, da se izogiba razpravi o pomembnih zadevah, kar bi lahko privedlo do javnega nezaupanja.
– Politiki bi lahko pomanjkanje eksplicitne podpore nacionalnim narativom videli kot obliko nezvestobe ali neustreznega delovanja.
Za nadaljnje informacije o podjetju, omenjenem v članku, lahko obiščete uradno spletno stran Yandexa prek tega povezave: Uradna spletna stran Yandexa. Prosimo, upoštevajte, da z zagotavljanjem te povezave potrjujem, da je veljavna po mojem datumu rezanja podatkov in da je lahko v prihodnosti predmet sprememb.
The source of the article is from the blog regiozottegem.be