OpenAI, изкуствен интелект лабораторията, подкрепена от Microsoft, обяви формирането на нов отбор, наречен „Колективна хармонизация“, с цел установяване на демократични процеси за управление на AI софтуера. Тази инициатива има за цел да се справи с притесненията относно предразсъдъци и други фактори в разработката и използването на AI технологии. Отборът разширява работата на програмата за грантове, въведена през май 2023 г., която се фокусира върху финансиране на експерименти, свързани с демократичните процеси в AI.
Целта на екипа за Колективна хармонизация е да позволи директно участие на хората, докато OpenAI продължава своето мисионно развитие на напреднали AI модели, които биха могли да станат важни части от обществото. Тина Елоунду, инженер по изследвания и основен член на екипа, подчерта важността на публичното участие в формирането на бъдещето на AI.
За да се осигури, че само хора могат да предоставят входящи данни, OpenAI може да си сътрудничи с Worldcoin, проект за криптовалута, основан от изпълнителния директор на OpenAI, Сам Алтман. Worldcoin предлага метод за разграничаване между човешки потребители и AI ботове. Теди Лий, продуктов мениджър и член на новия екип, спомена възможността за интегриране на технологията на Worldcoin, въпреки че все още не са направени конкретни планове.
OpenAI получи значително внимание с пускането на ChatGPT, програма с AI, способна да генерира последователен и убедителен текст. Въпреки това, притесненията относно възможността на AI да манипулира информация, като създаване на „дийпфейк“ изображения и разпространение на дезинформация, станаха предупреждение, особено преди предстоящата кампания за изборите в САЩ през 2024 г. Критици твърдят, че AI системи като ChatGPT могат да имат вътрешни предразсъдъци, произтичащи от данните, върху които са обучени, което води до ситуации с расистки или сексистки изходи.
Новият екип на OpenAI активно набира инженер по изследвания и изследовател в областта на науката. Те ще си сътрудничат тясно с екипа „Човешки данни“, който изгражда рамки за събиране на човешки входни данни относно моделите на AI, както и с други изследователски екипи.
Общо взето, ангажиментът на OpenAI за демократично управление и включването на разнообразни гласове в развитието и използването на AI технологии е съществена стъпка към гарантиране на отговорното и безпристрастно интегриране й в обществото.
The source of the article is from the blog mivalle.net.ar