Într-un studiu inovator, cercetătorii au descoperit că oferirea sistemelor de inteligență artificială (AI) un „monolog interior” îmbunătățește semnificativ capacitatea acestora de a raționa. Prin învățarea AI-ului să reflecte înainte de a răspunde la solicitări, similar cum oamenii își contemplă următoarele cuvinte înainte de a vorbi, s-a dezvoltat o metodologie revoluționară numită „Quiet-STaR”.
În contrast cu agenții de conversație AI tradiționali precum ChatGPT, care nu își analizează răspunsurile sau nu anticipează diferite posibilități de conversație, algoritmul Quiet-STaR dotează agenții de AI cu abilitatea de a genera o serie de previziuni însoțite de raționamente. Atunci când furnizează răspunsuri, AI-ul combină și prezintă cel mai potrivit răspuns, care poate fi ulterior evaluat de un participant uman în funcție de natura întrebării. Prin acest proces, raționamentele incorecte sunt eliminate, permițând AI-ului să anticipeze conversațiile viitoare și să învețe din interacțiunile în desfășurare.
Prin utilizarea modelului de limbă larg deschis sursă Mistral 7B (LLM), cercetătorii au aplicat algoritmul Quiet-STaR și au observat îmbunătățiri remarcabile. Versiunea antrenată cu Quiet-STaR a lui Mistral 7B a obținut un scor de raționament de 47,2% în comparație cu scorul inițial de 36,3%. Deși a avut încă dificultăți la un test de matematică școlară, obținând 10,9%, aceasta a reprezentat o îmbunătățire semnificativă față de scorul inițial al versiunii de bază de 5,9%.
Este crucial de menționat că cercetătorii s-au concentrat pe abordarea limitărilor modelelor AI existente în înțelegerea raționamentului de bun simț și contextualizare. Modelele de limbă precum ChatGPT și Gemini, bazate pe rețele neurale care încearcă să imite structura creierului uman și modelele de învățare, sunt în prezent incapabile de înțelegere autentică. Încercările anterioare de a îmbunătăți abilitățile de raționament au fost predominant specifice unor domenii, limitându-și aplicabilitatea la diferite modele AI.
Metodologia Quiet-STaR se remarcă datorită versatilității sale, capacității de a funcționa discret în fundal și potențialului său pentru implementare cu diferite tipuri de LLM-uri. Construind pe baza algoritmului de învățare autonom STaR, cercetătorii își propun să reducă discrepanța dintre sistemele AI bazate pe rețele neurale și abilitățile de raționament asemănătoare oamenilor. Această cercetare promițătoare deschide noi uși în eforturile de avansare a tehnologiei AI.
FAQ
The source of the article is from the blog trebujena.net