Google’i genereeriv AI seab vestlusrobotite täpsuses uue standardi
Novembris 2023 nägi AI-valdkond olulist arengut, nagu näitas startup Vectara – meeskond endistest Google’i töötajatest. Nende andmetel on OpenAI vestlusroboti ChatGPT hallutsinatsiooninäitaja 3%. See protsent võib tunduda minimaalne, kuid vale vastusega vestlusrobotiga kokkupuutumine võib olla ohtlik, eriti kui see eksitab spetsialiste nagu arstid, juhid või analüütikud.
AI-ga genereeritud valeinfo probleem ei ole ainult ChatGPT-le, vaid ka muudel suurte keelemudelitele tuginevatel vestlusrobotitel mõnikord ebatäpseid väljundeid. Google on aga eristunud, tutvustades AI-d nimega Gemini, mis omab uuenduslikku funktsiooni esitatud teabe autentimiseks.
Erinevalt tasuta versioonist ChatGPT-st, mis võib puududa hetkeoluline veebiinfo, omab Geminil võime viia sisse ja kombineerida oma vastustesse kõige uuemat veebiandmeid. See funktsioon on oluline kahe põhjuse tõttu: kasutajad saavad ajakohaseid vastuseid ja nad saavad hinnata vestlusroboti esitatud teabe usaldusväärsust.
Midagi, mis eristab Geminid teistest, on ainulaadne funktsioon. Iga Geminilt genereeritud vastusega kaasneb Google’i brändi ‘G’ ikoon. Kui kasutajad sellele ikoonile klõpsavad, teeb Gemini veebiotsingu, analüüsides oma AI-ga loodud teksti tõepärasust.
Veebiotsingu lõpetamisel toob Gemini mõned oma vastuse osad esile rohelise või oranžina. Rohelised fraasid tähistavad ‘kinnitatud’ infot, mida toetavad veebivasted, mida kasutajad saavad kinnitada järgides antud maineka allika linki. Google selgitab siiski, et näidatud link ei pruugi olla tingimata see täpne allikas, mida Gemini oma esialgse vastuse jaoks kasutas.
Vastupidi, oranžideks märgitud fraasid osutavad võimalikele erinevustele ja tegemist on hoiatusega, et võib vaja minna täiendavat kinnitamist. See võib samuti viidata, et asjakohast teavet ei leitud, kusjuures link tarnitakse, kui see on saadaval.
Lõpuks võib olla ka selliseid tekstiosi, mida pole puudutanud roheline ega oranž, tähistades piisava teabe puudumist vestlusroboti väidete hindamiseks või et väited pole mõeldud objektiivse info edastamiseks. Sellistel juhtudel soovitatakse kasutajal edasiseks kinnitamiseks kasutada oma kaalutlusvõimet.
Lõpetuseks, kuigi teised AI-tööriistad nagu Microsofti Copilot või Perplexity pakuvad tekstikinnitamiseks kasulikke linke, on Geminil otsene lähenemine faktilise kontrolli poole selle liidese sees märkimisväärne samm usaldusväärsete ja täpsete suhtlemiste poole AI vestlusrobotitega.
Faktid:
– Gemini on Google’i poolt arendatud AI, mis sisaldab täiustatud tõendamisfunktsioone.
– Suured keelemudelid, nagu ChatGPT-d toitev mudel, genereerivad mõnikord ebatäpset või eksitavat infot, mida tuntakse kui “hallutsinatsioone”.
– Gemini pakub otsest teabe tõestamist, kuvades teksti erinevates värvides vastavalt selle teabe tõestamise võimalustele.
Põhiküsimused ja vastused:
– K: Kuidas Gemini kinnitab oma esitatud infot?
<b:V: Gemini analüüsib oma vastuseid ja kasutab värvikoodisüsteemi, et näidata esitatud teabe tõestamise võimalusi. Roheline tähendab kontrollitud infot, oranž viitab võimalikele täpsuste puudustele ning tekst ilma värvita võib puududa piisavalt andmeid hindamiseks või olla subjektiivne.
– K: Miks on oluline, et AI vastused oleksid kontrollitavad?
<b:A: AI-st pärit teabe täpsuse ja kontrollitavuse tagamine on oluline, eriti professionaalsetes olukordades, kus valeinfo võib kaasa tuua olulisi tagajärgi.
Väljakutsed ja kontroversid:
– Tagada, et AI-ga genereeritud sisu oleks täpne ja vaba väärtushinnangutest, jääb arendajatele oluliseks väljakutseks.
– Võib esineda probleeme praeguse veebiandmete usaldamisega, eeldades, et kogu täpne teave on kättesaadav ja veebis indekseeritud.
– Kui AI-süsteemidel on võime teha taustal veebiotsinguid, tekkida kasutajatel mureküsimusi seoses nende privaatsusega.
Eelised:
– Gemini pakub kasutajatele rohkem kindlust AI-ga genereeritud sisu täpsuses.
– Võimalus kontrollida teabe tõestamist kohapeal suurendab kasutajate usaldust ja usaldusväärsust vestlusroboti suhtes.
– Ajakohane ja kontrollitud teave võib otsustusprotsessis kasutamiseks olla turvalisem.
Puudused:
– Liigne usaldamine tõestamisvahenditesse võib juhtida kasutajaid kriitilise mõtlemise eiramiseni AI-ga suhtlemisel.
– Võib esineda vigu, kui Gemini märgib ekslikult korrektset teavet kui tõestamata (vale negatiivsed) või ebatäpset informatsiooni kui kinnitatud (vale positiivsed).
Soovitatud seotud lingid:
– Rohkem teadmisi AI ja arvutuslike mudelite kohta: Google’i AI
– Arengud AI vestlusrobotites ja keelemudelites: OpenAI
– Teave Microsofti AI tööriistade kohta: Microsoft AI
Palun pea meeles, et kuigi püüan pakkuda täpseid URL-e, veendu nende kontrollimises, kuna mul pole võimalik nende kehtivust kinnitamiseks internetis sirvida.
The source of the article is from the blog dk1250.com