Cele mai recente caracteristici de căutare ale Google, Recenziile AI, au fost menite să simplifice experiența utilizatorilor oferind răspunsuri în partea de sus a paginii de căutare la întrebări comune din surse de internet variate. Cu toate acestea, gigantul tech a fost recent criticat deoarece aceste răspunsuri automate au inclus inexactități factuale, declanșând o conversație mai amplă despre credibilitatea chatbot-urilor alimentate de inteligență artificială.
Caracteristica Recenzii AI, lansată acum două săptămâni, își propunea să asiste utilizatorii cu întrebări complexe. Cu toate acestea, utilizatorii au descoperit rapid răspunsuri înșelătoare, cum ar fi soluții de bricolaj pentru alimente nerecomandate, sfaturi greșite în domeniul sănătății și propagarea teoriilor conspirației demontate, dezvăluind astfel limitele modelelor actuale de IA.
Cercetarea realizată de Vectara, o startup specializată în IA generativă, a arătat că chatbot-urile inventează informații într-un număr semnificativ de interacțiuni. Modelele de limbaj majore, precum ChatGPT de la OpenAI și Gemini de la Google, învață să anticipeze răspunsurile pe baza unor modele existente. Hanan Wazan de la Artefact a evidențiat similaritățile dintre acest proces predictiv și anticiparea gândirii umane pentru a articula un discurs.
Seturile de date incomplete sau tendențioase pot duce la chatbot-uri care ‘halucinează’ răspunsuri incorecte. Google a identificat mai multe tipuri de erori de acest tip, inclusiv predicții greșite și detectarea amenințărilor fictive. Chatbot-urile încă analizează matematic datele observate pentru a genera răspunsuri, așa cum ar sugera Alexander Suharevsky, partener la McKinsey, referindu-se la IA mai degrabă ca la o ‘tehnologie hibridă’.
Consecințele dezinformării pot fi grave în special atunci când IA medicală identifică greșit afecțiuni medicale. Igor Sevo de la Grupul HTEC a remarcat că aplicațiile de IA pot varia; scenariile creatoarei ar putea beneficia de producții whimsicale, dar precizia factuală este esențială în alte situații. Modelele de IA prosperează pe o dietă bogată de date de calitate, nu doar de volum, subliniind importanța obtinerii informațiilor din surse fiabile.
De exemplu, OpenAI obține conținutul de la organizații media de încredere pentru a-și instrui modelele eficient. Pe măsură ce tehnologia avansează, rafinarea meticuloasă a seturilor de date și a instruirii de IA va rămâne crucială pentru îmbunătățirea acurateței și fiabilității interacțiunilor cu chatbot-urile.
Chestiunea uneltelor alimentate de IA și a acurateței lor este importantă și controversată. Iată câteva întrebări, provocări și controverse legate de acest subiect:
Întrebări cheie:
– Cum pot fi îmbunătățite sistemele de IA pentru a evita propagarea dezinformării?
– Ce măsuri pot fi luate pentru a asigura că sursele care alimentează aceste modele sunt fiabile și precise?
– Cât de multă încredere ar trebui să aibă utilizatorii în conținutul generat de IA?
Provocări și Controverse:
– Una dintre principalele provocări este calitatea și tendința seturilor de date de instruire. Dacă modelele de IA sunt instruite pe date tendențioase sau inexacte, acestea vor produce ieșiri tendențioase sau inexacte. Aceasta este o preocupare îndelungată în comunitatea IA.
– O altă provocare este echilibrul între autonomia IA și supravegherea umană. Prea multă autonomie fără verificări adecvate poate duce la propagarea minciunilor, în timp ce prea multă supraveghere anulează valoarea proceselor automate.
– Există și problema educației utilizatorilor. Utilizatorii trebuie să fie conștienți că, deși IA poate oferi informații utile, răspunsurile sale ar trebui verificate cu surse de încredere, în special în probleme critice.
Avantaje ale Recenziilor AI:
– Confort: Recenziile AI pot oferi rapid utilizatorilor informații fără a fi nevoie să răsfoiască mai multe site-uri.
– Eficiență: Aceste sisteme pot procesa cantități uriașe de date mult mai rapid decât ar putea un om.
Dezavantaje ale Recenziilor AI:
– Inexactități: După cum s-a văzut în cazul problemelor recente ale Google, IA poate propaga informații incorecte, ceea ce poate duce la confuzie sau vătămare.
– Încredere greșită: Utilizatorii ar putea avea prea multă încredere în răspunsurile oferite de IA fără a verifica acuratețea acestora.
În ceea ce privește linkurile relevante, de obicei se oferă URL-uri care duc la agenții de încredere, instituții de cercetare sau surse de știri care acoperă subiectul IA și progresul acesteia, cum ar fi OpenAI, cunoscut pentru munca sa cu modele de IA sau Google, care dezvoltă funcții de Revizuire AI printre multe alte inițiative de IA. Nu uitați să verificați credibilitatea și relevanța surselor înainte de a vă baza pe informațiile furnizate.
The source of the article is from the blog hashtagsroom.com