Великі мовні моделі (LLMs) радикально змінили різні галузі, від охорони здоров’я до розваг, завдяки своїм винятковим здібностям у обробці природної мови (NLP) та генерації природної мови (NLG). Проте розширення функціональності цих моделей поза даними, на яких вони навчені, становить значну проблему в галузі дослідження мовних моделей.
Щоб вирішити це питання, у Microsoft Research було розроблено інноваційний рішення під назвою GraphRAG. GraphRAG використовує знання, створені LLM, для покращення продуктивності систем покращеного генерування з оновленою пошуковою функцією (RAG). На відміну від традиційних методів RAG, що ґрунтуються на векторній подібності для стратегій пошуку, GraphRAG використовує створені LLM знання для аналізу складної інформації в документах, що призводить до поліпшення продуктивності.
Традиційні базові системи RAG часто мають проблеми з розумінням ущільнених семантичних концепцій та встановленням зв’язків між неспорідненими даними. У свою чергу, GraphRAG пропонує більш вишуканий підхід, як підтверджується обширним аналізом.
Microsoft Research провело ретельний аналіз, використовуючи набір даних з Інформації про насильство з новинних статей (VIINA), для відображення потенціалу GraphRAG. Результати показали відмінну продуктивність GraphRAG у порівнянні з базовим RAG, особливо в сценаріях, що потребують комплексного розуміння семантичних концепцій та установлення зв’язків.
Крім того, команда покращила свій пошук на основі LLM, створивши власний набір даних. Вони переклали тисячі новин з російських та українських джерел на англійську мову, що додатково покращило їхню систему GraphRAG. Порівняно з базовим RAG, GraphRAG проявив виняткові здібності в обробці запитів, які вимагають агрегації даних з різних наборів даних.
GraphRAG перевиконав базовий RAG, групуючи власний набір даних відповідно до відповідних семантичних кластерів за допомогою структурованого знання. Цей підхід дозволив GraphRAG надавати комплексні огляди тем і концепцій, що значно поліпшує частину пошуку RAG.
На завершення, GraphRAG від Microsoft Research пропонує революційний розвиток у галузі мовних моделей, використовуючи силу знань, створених LLM. Цей унікальний метод відкриває нові можливості для дослідження даних і встановлює GraphRAG як потужний інструмент для покращення можливостей покращеного генерування з оновленою пошуковою функцією. З GraphRAG LLM тепер можуть вирішувати складні проблеми на власних наборах даних, революціонізуючи галузь дослідження мовних моделей.
The source of the article is from the blog krama.net