OpenAI, лаборатория искусственного интеллекта, поддерживаемая Microsoft, объявила о создании новой команды под названием «Коллективное выравнивание», чтобы установить демократические процессы для управления своими программами искусственного интеллекта. Эта инициатива направлена на решение проблемы предвзятости и других факторов в разработке и использовании технологий искусственного интеллекта. Команда расширяет работу программы грантов, введенной в мае 2023 года, которая финансировала эксперименты, связанные с демократическими процессами в искусственном интеллекте.
Цель команды «Коллективное выравнивание» — обеспечить прямое участие людей, поскольку OpenAI продолжает свою миссию по разработке передовых моделей искусственного интеллекта, которые могут стать неотъемлемой частью общества. Тина Элунду, исследователь-инженер и один из основателей команды, подчеркнула важность общественного участия в формировании будущего искусственного интеллекта.
Для обеспечения того, чтобы только люди могли давать рекомендации, OpenAI может сотрудничать с проектом криптовалюты Worldcoin, основанным главой OpenAI Сэмом Альтманом. Worldcoin предлагает метод различения между пользователями искусственного интеллекта и ботами. Тедди Ли, менеджер продукта и член команды, упомянул возможность интеграции технологии Worldcoin, хотя конкретные планы пока не были сделаны.
OpenAI привлекла значительное внимание с выпуском ChatGPT, программы искусственного интеллекта, способной создавать связный и убедительный текст. Однако возникли опасения относительно возможности искусственного интеллекта манипулировать информацией, такой как создание «глубоких подделок» изображений и распространение дезинформации, особенно в преддверии кампании выборов в США 2024 года. Критики утверждают, что системы искусственного интеллекта, такие как ChatGPT, могут иметь врожденные предубеждения, происходящие из данных, на которых они тренируются, что приводит к возникновению расистских или сексистских результатов.
Новая команда OpenAI активно набирает исследователь-инженера и исследователя-ученого. Они будут тесно сотрудничать с командой «Человеческие данные», которая разрабатывает рамки для сбора отзывов людей по поводу моделей искусственного интеллекта, а также с другими исследовательскими командами.
В целом, приверженность OpenAI демократическому управлению и вовлечение различных голосов в разработку и использование технологий искусственного интеллекта являются важным шагом к обеспечению ответственной и беспристрастной интеграции их в общество.
The source of the article is from the blog kunsthuisoaleer.nl