Google’s Generative AI Raises the Bar for Accuracy in Chatbots
In november 2023 werd er een belangrijke ontwikkeling in de AI-wereld onthuld door startup Vectara – een team bestaande uit voormalige Google-medewerkers. Volgens hun gegevens ligt het hallucinatiepercentage van OpenAI’s ChatGPT op 3%. Dit percentage lijkt misschien minimaal, maar het tegenkomen van een onjuist antwoord van een chatbot kan ernstige gevolgen hebben, vooral wanneer het professionals zoals artsen, managers of analisten verkeerd leidt.
Het probleem van door AI gegenereerde misinformatie is niet exclusief voor ChatGPT; andere chatbots gebaseerd op Large Language Models produceren soms ook onjuiste uitvoer. Google heeft zich echter onderscheiden door een AI genaamd Gemini te introduceren met een innovatieve functie voor het authentificeren van de verstrekte informatie.
In tegenstelling tot de gratis versie van ChatGPT, die mogelijk niet over actuele webinformatie beschikt, heeft Gemini de mogelijkheid om de nieuwste online gegevens te vinden en op te nemen in zijn antwoorden. Deze functie is cruciaal om twee redenen: gebruikers ontvangen actuele antwoorden en ze kunnen de betrouwbaarheid van de informatie gepresenteerd door de chatbot bepalen.
Wat Gemini onderscheidt is een unieke functie. Bij elke reactie die door Gemini wordt gegenereerd, staat een Google-merk ‘G’-pictogram. Wanneer gebruikers op dit pictogram klikken, voert Gemini een webscenario uit, waarbij de geldigheid van zijn door AI gegenereerde tekst wordt geanalyseerd.
Na het voltooien van de zoekopdracht markeert Gemini bepaalde delen van zijn antwoord in het groen of oranje. Groene zinnen duiden op ‘geverifieerde’ informatie die wordt ondersteund door online overeenkomsten die gebruikers kunnen bevestigen door de geleverde betrouwbare bronlink te volgen. Google verduidelijkt echter dat de getoonde link niet per se de exacte bron hoeft te zijn die Gemini gebruikte voor zijn originele antwoord.
Daarentegen duiden zinnen gemarkeerd in oranje op mogelijke tegenstrijdigheden en is het een waarschuwing dat verder verificatie nodig kan zijn. Het kan ook aangeven dat er geen relevante informatie is gevonden, waarbij een link wordt verstrekt indien beschikbaar.
Tenslotte kunnen er tekstgedeelten zijn die niet zijn aangeraakt door groen of oranje, wat duidt op een gebrek aan voldoende informatie om de uitspraken van de chatbot te beoordelen, of dat de uitspraken niet bedoeld zijn om objectieve informatie over te brengen. In dergelijke gevallen wordt gebruikers geadviseerd verder te valideren.
Tot slot, hoewel andere AI-tools zoals Microsoft’s Copilot of Perplexity ook nuttige links bieden voor tekstverificatie, is de directe benadering van Gemini voor fact-checking binnen zijn interface een lovenswaardige stap naar betrouwbare en accurate interacties met AI-chatbots.
Feiten:
– Gemini is een AI ontwikkeld door Google met verbeterde controleerbaarheidsfuncties.
– Large Language Models, zoals degene die ChatGPT aandrijft, genereren soms onnauwkeurige of misleidende informatie, ook wel “hallucinaties” genoemd.
– Gemini biedt directe verificatie van de informatie die het genereert door tekst te markeren in verschillende kleuren op basis van de controleerbaarheid van die informatie.
Belangrijke vragen en antwoorden:
– V: Hoe controleert Gemini de informatie die het verstrekt?
A: Gemini analyseert zijn reacties en gebruikt een kleurgecodeerd systeem om de controleerbaarheid van de informatie aan te geven. Groen duidt op geverifieerde informatie, oranje suggereert mogelijke onnauwkeurigheden, en tekst zonder kleur kan onvoldoende gegevens bevatten voor beoordeling of is subjectief.
– V: Waarom is controleerbaarheid in AI-reacties belangrijk?
A: Het waarborgen van nauwkeurige en controleerbare informatie van AI is cruciaal, vooral in professionele omgevingen waar misinformatie kan leiden tot ernstige gevolgen.
Uitdagingen en controverses:
– Het waarborgen dat door AI gegenereerde inhoud nauwkeurig en vrij van vooringenomenheid is, blijft een grote uitdaging voor ontwikkelaars.
– Er kunnen problemen zijn met vertrouwen op actuele webgegevens, aangezien ervan wordt uitgegaan dat alle accurate informatie online beschikbaar en geïndexeerd is.
– Privacyzorgen voor gebruikers kunnen ook ontstaan wanneer AI-systemen de mogelijkheid hebben om op de achtergrond webscenario’s uit te voeren.
Voordelen:
– Gemini geeft gebruikers meer vertrouwen in de nauwkeurigheid van door AI gegenereerde inhoud.
– De mogelijkheid om de controleerbaarheid van informatie direct te controleren, verbetert het vertrouwen en de betrouwbaarheid van de chatbot.
– Informatie die actueel is en een verificatieproces heeft doorlopen, kan veiliger zijn om te gebruiken bij besluitvorming.
Nadelen:
– Een overmatige afhankelijkheid van verificatietools kan ertoe leiden dat gebruikers kritisch denken terzijde schuiven bij interactie met AI.
– Er bestaat potentieel voor fouten als Gemini nauwkeurige informatie onterecht markeert als ongeverifieerd (valse negatieven) of onnauwkeurige informatie als geverifieerd (valse positieven).
Aanbevolen gerelateerde links:
– Voor meer inzichten over AI en computationele modellen: Google AI
– Voor ontwikkelingen in AI-chatbots en taalmodellen: OpenAI
– Voor informatie over Microsoft’s AI-tools: Microsoft AI
Let op dat hoewel ik ernaar streef om nauwkeurige URL’s te verstrekken, u deze moet controleren, omdat ik niet op internet kan surfen om hun geldigheid te bevestigen.