Googles Generative AI hæver standarden for præcision i chatbots
I november 2023 oplevede AI-verdenen en betydelig udvikling, som blev afsløret af opstartsselskabet Vectara – et hold bestående af tidligere Google-medarbejdere. Ifølge deres data ligger hallucinationsraten for OpenAIs ChatGPT på 3%. Denne procentdel kan forekomme minimal, men at støde på et forkert svar fra en chatbot kan have alvorlige konsekvenser, især når det fører professionelle som læger, ledere eller analytikere på vildspor.
Problemet med AI-genereret misinformation er ikke eksklusivt for ChatGPT; andre chatbots baseret på store sprogmodeller producerer også til tider unøjagtige resultater. Dog har Google adskilt sig ved at introducere en AI ved navn Gemini, der har en innovativ funktion til at autentificere den information, den giver.
I modsætning til den gratis version af ChatGPT, som måske mangler aktuelle weboplysninger, har Gemini evnen til at søge og inkorporere de nyeste online data i sine svar. Denne funktion er afgørende af to grunde: brugere modtager opdaterede svar, og de kan afgøre pålideligheden af den information, som chatbotten præsenterer.
Hvad der adskiller Gemini fra andre, er en unik funktion. Med hvert svar genereret af Gemini følger et Google-mærket ‘G’-ikon. Når brugerne klikker på dette ikon, foretager Gemini en websøgning og analyserer gyldigheden af sin AI-genererede tekst.
Efter at have fuldført søgningen markerer Gemini visse dele af sit svar med grønt eller orange. Grønne sætninger angiver ‘verificeret’ information understøttet af online resultater, som brugerne kan bekræfte ved at følge det medfølgende pålidelige kilde-link. Dog præciserer Google, at det viste link ikke nødvendigvis er den præcise kilde, som Gemini brugte til sit oprindelige svar.
Omvendt angiver sætninger markeret i orange potentielle inkonsekvenser og advarer om, at yderligere verifikation kan være nødvendig. Det kan også indikere, at der ikke blev fundet relevant information, hvilket fremgår af et link, såfremt det er tilgængeligt.
Endelig kan der være tekstafsnit, der ikke er berørt af grønt eller orange, hvilket angiver manglende tilstrækkelig information til at vurdere chatbottens udsagn, eller at udsagnene ikke er ment at formidle objektiv information. I sådanne tilfælde anbefales det brugerne at udvise skønsomhed og foretage yderligere validering.
Afslutningsvis, selvom andre AI-værktøjer som Microsofts Copilot eller Perplexity også giver nyttige links til tekstverifikation, så er Geminis direkte tilgang til fakttjek inden for dens interface et prisværdigt skridt mod at levere pålidelige og præcise interaktioner med AI-chatbots.
Fakta:
– Gemini er en AI udviklet af Google, der inkluderer forbedrede verificeringsfunktioner.
– Store sprogmodeller, som driver ChatGPT, genererer til tider unøjagtig eller vildledende information, kendt som “hallucinationer”.
– Gemini tilbyder direkte verifikation af den information, den genererer, ved at markere tekst i forskellige farver baseret på informationens verificerbarhed.
Nøglespørgsmål og svar:
– Q: Hvordan verificerer Gemini den information, den giver?
A: Gemini analyserer sit svar og bruger et farvekodet system til at angive informationens verificerbarhed. Grøn indikerer verificeret information, orange antyder potentielle unøjagtigheder, og tekst uden farve kan mangle tilstrækkelige data til vurdering eller være subjektiv.
– Q: Hvorfor er verificerbarhed i AI-svar vigtig?
A: At sikre, at information fra AI er nøjagtig og verificerbar, er afgørende, især i professionelle sammenhænge, hvor misinformation kan have alvorlige konsekvenser.
Udfordringer og kontroverser:
– At sikre, at AI-genereret indhold er nøjagtigt og fri for bias, er stadig en betydelig udfordring for udviklere.
– Der kan være problemer med at stole på aktuelle webdata, da det antager, at al korrekt information er tilgængelig og indekseret online.
– Brugerens privatlivsproblemer kan også opstå, når AI-systemer har mulighed for at foretage websøgninger i baggrunden.
Fordele:
– Gemini giver brugerne mere tillid til nøjagtigheden af AI-genereret indhold.
– Evnen til at kontrollere informationens verificerbarhed øjeblikkeligt øger brugertillid og -pålidelighed i chatbotten.
– Information, der er opdateret og er gennemgået en verifikationsproces, kan være sikrere at bruge i beslutningstagning.
Ulemper:
– Overrelians på verifikationsværktøjer kan få brugere til at ignorere kritisk tænkning under interaktion med AI.
– Der er potentiale for fejl, hvis Gemini forkert markerer nøjagtig information som uv