Inteligența artificială generativă Google ridică ștacheta pentru acuratețea chatbot-urilor
În noiembrie 2023, spațiul inteligenței artificiale a fost martor la o dezvoltare semnificativă, așa cum a fost dezvăluit de startup-ul Vectara – o echipă formată din foști angajați Google. Conform datelor lor, rata halucinațiilor ChatGPT de la OpenAI este de 3%. Acest procent ar putea părea minimal, însă întâmpinarea unei răspunsuri eronate de la un chatbot ar putea avea consecințe grave, în special atunci când îi induce în eroare pe profesioniști precum medici, manageri sau analiști.
Problema dezinformării generate de IA nu este exclusivă pentru ChatGPT; alte chatbot-uri bazate pe modele de limbaj ample, uneori produc, de asemenea, rezultate inexacte. Cu toate acestea, Google s-a diferențiat prin introducerea unei IA numită Gemini care are o caracteristică inovatoare pentru autentificarea informațiilor pe care le furnizează.
Spre deosebire de versiunea gratuită a ChatGPT, care ar putea lipsi informațiile web curente, Gemini are capacitatea de a căuta și de a încorpora cele mai recente date online în răspunsurile sale. Această funcție este crucială din două motive: utilizatorii primesc răspunsuri actualizate și pot determina fiabilitatea informațiilor prezentate de chatbot.
Ceea ce diferențiază Gemini este o caracteristică unică. Însoțind fiecare răspuns generat de Gemini se află o pictogramă ‘G’ cu brandul Google. Atunci când utilizatorii dau clic pe această pictogramă, Gemini desfășoară o căutare web, analizând validitatea textului său generat de IA.
După încheierea căutării, Gemini evidențiază anumite părți ale răspunsului său cu verde sau portocaliu. Frazele verzi semnifică informații ‘verificate’ sprijinite de potriviri online pe care utilizatorii le pot confirma urmând linkul sursă de încredere furnizat. Cu toate acestea, Google clarifică faptul că linkul afișat nu este neapărat sursa exactă pe care Gemini a folosit-o pentru răspunsul său original.
Pe de altă parte, frazele marcate cu portocaliu sugerează posibile discrepanțe și avertizează că ar putea fi necesară o verificare suplimentară. Acest lucru poate indica, de asemenea, că nu s-a găsit nicio informație relevantă, fiind furnizat un link în cazul disponibilității acestuia.
În cele din urmă, ar putea exista părți de text nedesemnate cu verde sau portocaliu, semnificând o lipsă de informații suficiente pentru a evalua afirmațiile chatbot-ului, sau faptul că afirmațiile nu sunt destinate să transmită informații obiective. În astfel de situații, este recomandată discreția utilizatorilor pentru o validare suplimentară.
În încheiere, în timp ce alte unelte AI precum Copilot de la Microsoft sau Perplexity oferă de asemenea linkuri utile pentru verificarea textului, abordarea directă a lui Gemini în ceea ce privește verificarea faptelor în cadrul interfeței sale reprezintă un progres lăudabil către livrarea interacțiunilor fiabile și precise cu chatbot-urile AI.
Fapte:
– Gemini este o IA dezvoltată de Google care include caracteristici îmbunătățite de verificabilitate.
– Modelele de limbaj ample, precum cel care alimentează ChatGPT, uneori generează informații inexacte sau înșelătoare, cunoscute sub numele de „halucinații”.
– Gemini oferă verificarea directă a informațiilor pe care le generează prin evidențierea textului în culori diferite pe baza verificabilității acelei informații.
Întrebări și Răspunsuri Cheie:
– Î: Cum verifică Gemini informațiile pe care le oferă?
R: Gemini își analizează răspunsurile și folosește un sistem codat pe culori pentru a indica verificabilitatea informațiilor. Verde indică informații verificate, portocaliu sugerează inexactități posibile și textul fără culoare ar putea să nu aibă suficiente date pentru evaluare sau să fie subiectiv.
– Î: De ce este importantă verificabilitatea în răspunsurile AI?
R: Asigurarea că informațiile de la AI sunt exacte și verificabile este crucială, în special în medii profesionale în care dezinformarea poate avea consecințe semnificative.
Provocări și Controverse:
– Asigurarea că conținutul generat de AI este exact și lipsit de părți subiective rămâne o provocare semnificativă pentru dezvoltatori.
– Pot exista probleme legate de baza de date web curentă, deoarece se presupune că toate informațiile precise sunt disponibile și indexate online.
– Îngrijorările cu privire la confidențialitatea utilizatorilor pot apărea atunci când sistemele AI au capacitatea de a efectua căutări web în fundal.
Avantaje:
– Gemini oferă utilizatorilor o mai mare încredere în acuratețea conținutului generat de AI.
– Capacitatea de a verifica verificabilitatea informațiilor pe loc îmbunătățește încrederea și fiabilitatea utilizatorilor în chatbot.
– Informațiile care sunt actualizate și au trecut printr-un proces de verificare pot fi mai sigure de utilizat în procesele decizionale.
Dezavantaje:
– Dependența excesivă de instrumentele de verificare ar putea determina utilizatorii să neglijeze gândirea critică în interacțiunea cu AI.
– Există potențialul de erori dacă Gemini marchează incorect informațiile exacte ca neverificate (negative false) sau informațiile inexacte ca verificate (pozitive false).
Linkuri Sugerate Aferente:
– Pentru mai multe informații despre AI și modelele computaționale: Google AI
– Pentru evoluții în chatbot-urile AI și modelele de limbaj: OpenAI
– Pentru informații despre uneltele AI de la Microsoft: Microsoft AI
Rețineți că, deși îmi străduiesc să ofer URL-uri corecte, asigurați-vă să le verificați deoarece nu pot naviga pe internet pentru a confirma validitatea lor.
The source of the article is from the blog maestropasta.cz