Недавнее исследование, проведенное учеными Нагойского университета в Градуатской школе информатики, пролило свет на эволюцию личностных черт в диалоговых системах искусственного интеллекта. Команда ученых использовала модель языка большого масштаба (LLM) и игру заключенного (prisoner’s dilemma), чтобы создать рамки, повторяющие человеческое поведение в ИИ-агентах.
Исследователи ставили целью исследовать, как LLM могут быть задействованы для поощрения разнообразия личностей в ИИ во время социального взаимодействия. AI-агенты эволюционировались, чтобы максимизировать свой виртуальный заработок, играя в игру заключенного, где доступны два варианта — сотрудничество и измена.
Используя языковые возможности LLM, исследователи закодировали естественные языковые описания личностных черт в гены ИИ-агентов. Это позволило более тонко прорабатывать эволюцию поведения, приводя к широкому спектру личностных черт.
Результаты исследования показали, что AI-агенты способны переключаться между эгоистичным и кооперативным поведением, аналогично человеческому поведению. Некоторые агенты проявляли более эгоистичные характеристики, отдавая предпочтение своим интересам над интересами сообщества, в то время как другие демонстрировали продвинутые стратегии, учитывающие как личную выгоду, так и взаимную пользу.
Однако исследование также подчеркнуло встроенную нестабильность в ИИ-обществах, где слишком кооперативные группы были заменены более эгоистичными агентами. Это подчеркивает необходимость сбалансированного подхода при проектировании ИИ-обществ и будущих взаимодействий ИИ-человек.
Результаты этого исследования предоставляют ценные идеи о потенциале языковых моделей в области искусственного интеллекта. Путем использования тонких языковых выражений LLM могут эффективно имитировать эволюцию личностных черт. Эти выводы не только продвигают развитие личности искусственного интеллекта, но также предлагают рекомендации для интеграции ИИ в человеческое общество.
ЧАВО
Q: Что такое игра заключенного?
Игра заключенного – это сценарий в теории игр, где два человека должны выбирать между сотрудничеством и изменой. Результат игры зависит от выборов, сделанных обоими игроками, с различными вознаграждениями за различные комбинации выборов.
Q: Каким образом эволюционировали личности AI в этом исследовании?
Личности AI эволюционировались в этом исследовании с использованием эволюционной структуры. Способности ИИ-агентов формировались естественным отбором и мутациями на протяжении поколений, что позволило появлению широкого спектра личностных черт.
Q: Каковы основные выводы исследования?
Исследование показало, что AI-агенты могут проявлять как кооперативные, так и эгоистичные черты личности, аналогичные человеческой социальной динамике. Кроме того, исследование подчеркнуло нестабильность в ИИ-обществах, где чрезмерно кооперативные группы более склонны быть заменены более эгоистичными агентами.
Q: Какие имеются у этого исследования последствия для AI-исследований и общества?
Эти результаты демонстрируют трансформационный потенциал языковых моделей в области исследований по искусственному интеллекту. Эволюция личностных черт на основе языковых выражений может быть эффективно представлена вычислительными моделями с использованием языковых моделей. Эти идеи могут руководить разработкой ИИ-агентов, положительно влияющих на человеческое общество, и помогать в создании будущих популяций ИИ-человек.
Источники:
— Нагойский университет: [ссылка](https://www.nagoya-u.ac.jp)
— Научные отчеты: [ссылка](https://www.nature.com/srep/)
The source of the article is from the blog revistatenerife.com