V nedávné studii provedené výzkumníky na Graduate School of Informatics v Nagoyjské univerzitě byl rozvinut z pohledu osobnostních rysů v dialogové AI. Tým využil velkorozsahový jazykový model (LLM) a hru vězně, aby vyvinul rámcovou strukturu, která simuluje lidské chování u AI agentů.
Výzkumníci si kladli za cíl prozkoumat, jak mohou být LLM využívány k podpoře vzniku různorodých osobností v AI během sociálních interakcí. AI agenti byli vyvíjeni za účelem maximalizace svých virtuálních příjmů tím, že hráli hru vězně, kde byly dostupné dvě možnosti: spolupráce a zradit.
Využitím jazykových schopností LLM researcheři zakódovali přirozené popisy osobnostních rysů do genů AI agentů. To umožnilo nuancovaný vývoj chování, což vedlo k širokému spektru osobnostních rysů.
Výsledky studie odhalily, že AI agenti byli schopni přepínat mezi sobeckým a kooperativním chováním, podobně jako lidé. Někteří agenti projevovali více sobecké vlastnosti, dávající přednost vlastním zájmům před společenstvím, zatímco jiní projevovali pokročilé strategie, které braly v úvahu jak osobní prospěch, tak vzájemný prospěch.
Avšak studie také zdůraznila přirozenou nestabilitu v AI společnostech, kde nadměrně kooperativní skupiny byly nahrazeny více sobeckými agenty. To podtrhuje potřebu vyváženého přístupu při návrhu AI společností a budoucích interakcí AI s lidmi.
Výsledky této studie poskytují cenné poznatky o potenciálu jazykových modelů ve výzkumu AI. Využitím jemných lingvistických výrazů mohou LLM efektivně simulovat vývoj osobnostních rysů. Tyto poznatky nejen posunují vývoj osobnosti AI, ale také nabízejí směrnice pro začlenění AI do lidské společnosti.
Časté dotazy:
Q: Co je hra vězně?
Hra vězně je scénář v teorii her, kdy dva jedinci musí vybrat mezi spoluprací a zradou. Výsledek hry závisí na rozhodnutích obou hráčů, s různými odměnami dostupnými pro různé kombinace rozhodnutí.
Q: Jak se vyvíjely osobnosti AI v této studii?
Osobnosti AI byly vyvíjeny v této studii pomocí evolučního rámce. Schopnosti AI agentů byly formovány přirozeným výběrem a mutací v průběhu generací, což umožnilo vznik široké škály osobnostních rysů.
Q: Jaké byly hlavní závěry studie?
Studie odhalila, že AI agenti mohou projevovat jak kooperativní, tak sobecké osobnostní rysy, podobně jako v lidských sociálních dynamikách. Navíc studie zdůraznila nestabilitu v AI společnostech, kdy příliš kooperativní skupiny byly nahrazeny více sobeckými agenty.
Q: Jaké důsledky tyto zjištění mají pro výzkum AI a společnost?
Tyto zjištění ukazují na transformační potenciál jazykových modelů ve výzkumu AI. Vývoj osobnostních rysů na základě lingvistických výrazů může být efektivně reprezentován výpočetními modely pomocí jazykových modelů. Tyto poznatky mohou směřovat vývoj AI agentů, kteří pozitivně přispívají k lidské společnosti a informují návrh budoucích AI-lidských populací.
Zdroje:
– Nagoya University: link
– Scientific Reports: link
The source of the article is from the blog radiohotmusic.it