Les modèles de langage de grande taille (LLM) ont révolutionné diverses industries, de la santé au divertissement, grâce à leurs capacités exceptionnelles en traitement automatique du langage naturel (TALN) et en génération de langage naturel (GNL). Cependant, étendre la fonctionnalité de ces modèles au-delà des données sur lesquelles ils sont formés a posé un défi important dans le domaine de la recherche sur les modèles de langage.
Pour relever ce défi, Microsoft Research a développé une solution innovante appelée GraphRAG. GraphRAG exploite les graphes de connaissances générés par les LLM pour améliorer les performances des systèmes de génération augmentée par récupération (RAG). Contrairement aux méthodologies RAG traditionnelles qui reposent sur la similarité vectorielle pour les stratégies de recherche, GraphRAG introduit des graphes de connaissances générés par LLM pour analyser des informations complexes dans des documents, ce qui se traduit par des performances améliorées.
Les systèmes RAG de référence traditionnels ont souvent du mal à comprendre les concepts sémantiques condensés et à établir des connexions entre des données non apparentées. En revanche, GraphRAG offre une approche plus sophistiquée, comme le montre une analyse approfondie.
Microsoft Research a mené une analyse approfondie en utilisant l’ensemble de données des informations sur les incidents violents dans les articles de presse (VIINA) pour mettre en valeur le potentiel de GraphRAG. Les résultats ont démontré la performance supérieure de GraphRAG par rapport au RAG de référence, notamment dans les scénarios nécessitant une compréhension approfondie des concepts sémantiques et des connexions à établir.
De plus, l’équipe a enrichi sa récupération basée sur les LLM en créant un ensemble de données privé. Ils ont traduit des milliers d’articles de presse provenant de sources russes et ukrainiennes en anglais, ce qui a encore amélioré leur système GraphRAG. Comparé au RAG de référence, GraphRAG a démontré des capacités exceptionnelles pour traiter des requêtes nécessitant l’agrégation de données provenant de plusieurs ensembles de données.
GraphRAG a surpassé le RAG de référence en regroupant l’ensemble de données privé en clusters sémantiques pertinents à l’aide d’un graphe de connaissances structuré. Cette approche a permis à GraphRAG de fournir des aperçus complets des sujets et des concepts, améliorant sensiblement la partie de récupération de RAG.
En conclusion, GraphRAG de Microsoft Research offre un développement révolutionnaire dans les modèles de langage en exploitant la puissance des graphes de connaissances créés par les LLM. Cette méthodologie unique ouvre de nouvelles possibilités pour l’exploration des données et établit GraphRAG comme un outil puissant pour améliorer les capacités de génération augmentée par récupération. Avec GraphRAG, les LLM peuvent désormais résoudre des problèmes complexes sur des ensembles de données privés, révolutionnant ainsi le domaine de la recherche sur les modèles de langage.
The source of the article is from the blog scimag.news