У захоплюючому новому дослідженні науковці виявили, що надання системам штучного інтелекту (ШІ) “внутрішнього монологу” значно покращує їхню здатність до мислення. Навчаючи ШІ думати перед реагуванням на запитання, схоже на те, як люди розглядають свої наступні слова перед говорінням, була розроблена новаторська методологія під назвою “Quiet-STaR”. Цей інноваційний підхід навчає системи ШІ генерувати кілька внутрішніх обґрунтувань одночасно перед формулюванням відповіді, що дозволяє ШІ надати найкращу можливу відповідь.
На відміну від традиційних чат-ботів ШІ, таких як ChatGPT, які не розмірковують над своїми відповідями або не передбачають різних можливостей спілкування, алгоритм Quiet-STaR забезпечує агентів ШІ здатністю генерувати ряд прогнозів разом із обґрунтуваннями. При наданні відповідей ШІ поєднує і презентує найвідповіднішу відповідь, яку подальше може оцінити людина на основі характеру запитання. Через цей процес невірні обґрунтування відкидаються, дозволяючи ШІ передбачати майбутні розмови та вивчати на основі триваючих взаємодій.
Використовуючи відкрите вихідне вбудовуване в Mistral 7B велике мовне моделювання (ЛМM), дослідники застосували алгоритм Quiet-STaR і помітили помітні покращення. Підготована з використанням методики Quiet-STaR версія Mistral 7B змогла досягти показника мислення на рівні 47,2% порівняно з попереднім результатом після навчання на рівні 36,3%. Хоча вона все ще мала проблеми з шкільним математичним тестом, набравши 10,9%, це було значним покращенням порівняно з початковим результатом ванільної версії 5,9%.
Дуже важливо відзначити, що науковці акцентували увагу на вирішенні обмежень існуючих моделей ШІ щодо розуміння розумного мислення та контекстуалізації. Мовні моделі, такі як ChatGPT та Gemini, засновані на нейромережах, які намагаються імітувати структуру і патерни навчання людського мозку, наразі не здатні до справжнього розуміння. Попередні спроби покращення здатностей до мислення були переважно специфічними за галузями, що обмежувало їх застосування до різних моделей ШІ.
Методика Quiet-STaR виділяється своєю універсальністю, здатністю безшумно функціонувати у тлі і потенціалом для реалізації з різними типами ЛМM. Побудовуючи на основі алгоритму самоучиться мислителя (STaR), науковці прагнуть зменшити відмінність між системами ШІ на основі нейромереж та здатністю до розумного мислення, характерним для людини. Ці перспективні дослідження відкривають нові можливості у просуванні технологій ШІ.
Часто задаються питання
1. Що таке Quiet-STaR?
Quiet-STaR – це методологія, яка навчає системи ШІ генерувати внутрішні обґрунтування перед реагуванням на запитання, покращуючи їхні здатності до мислення. Це передбачає відкидання невірних обґрунтувань та використання поєднання прогнозів для надання найкращої відповіді.
2. Як Quiet-STaR відрізняється від традиційних чат-ботів ШІ?
У відміну від звичайних чат-ботів ШІ, які не думають або не передбачають різних можливостей у розмові, Quiet-STaR наділяє агентів ШІ можливістю розглядати різні обґрунтування одночасно та генерувати кращі відповіді.
3. Які обмеження існують у поточних моделях ШІ?
Існуючі моделі ШІ мають проблеми з мисленням на здоровий глузд та контекстуалізацією. Моделі на основі нейромереж, такі як ChatGPT та Gemini, не мають пристрасті до реального розуміння.
4. Як Quiet-STaR покращує здатності ШІ до мислення?
Навчаючи системи ШІ думати перед відповіддю, Quiet-STaR дозволяє їм передбачати майбутні розмови, вчитися з триваючих взаємодій і покращувати показники мислення.
Джерела:
– [База даних arXiv](https://arxiv.org/)
– [Наука у прямому ефірі](https://www.livescience.com/)
Більше інформації про галузь, ринкові прогнози та питання, пов’язані з технологією ШІ:
…
The source of the article is from the blog elperiodicodearanjuez.es