OpenAI, один з провідних стартапів у галузі штучного інтелекту, оголосив про створення нової команди під назвою Колективна Алігнізація, яка має на меті залучення громадської думки для впливу на поведінку їх моделей штучного інтелекту. Команда буде працювати над розробкою систем, які враховують громадські внески і вирішують різні виклики, такі як цифровий розрив, поларизація, репрезентація різних груп та занепокоєння щодо майбутнього управління штучним інтелектом.
У рамках своїх зусиль OpenAI буде співпрацювати з зовнішніми радниками та командами, а також запустить пілотні проекти з реалізації прототипів грантів для керування їх моделями штучного інтелекту. Компанія активно рекрутує дослідних інженерів з різноманітним технічним досвідом для приєднання до команди Колективної Алігнізації.
Ця ініціатива випливає з програми OpenAI, яка була запущена у травні, де компанія надала гранти вартістю 100 000 євро кожен для підтримки експериментів з “демократичними внесками до штучного інтелекту” по всьому світу. Головною метою програми було встановлення демократичного процесу визначення правил, якими повинні керуватися системи штучного інтелекту.
OpenAI визнає занепокоєння, яке виразили деякі учасники щодо впливу ШІ на формування політики та наголошує на важливості прозорості використання штучного інтелекту в демократичних процесах. Учасники програми відчули зсув у настрої, багато з них стали більш надійними щодо можливості громади сприяти керуванню штучним інтелектом через обговорення.
Крім створення команди Колективної Алігнізації, OpenAI також поділився кодом, розробленим учасниками програми грантів, та надав підсумки їх робіт. Цей крок сприяє відкритості та прозорості підходу OpenAI до розробки штучного інтелекту.
Інтегруючи громадську думку та створюючи системи, які відображають різноманітні погляди, OpenAI має на меті забезпечити, що моделі штучного інтелекту будуть відповідати суспільним цінностям і уникати упередженостей або непередбачених наслідків. Команда Колективної Алігнізації відображає бажання OpenAI відповідально враховувати громадський внесок у формуванні технології штучного інтелекту.
The source of the article is from the blog papodemusica.com