OpenAI, a Microsoft által támogatott mesterséges intelligencia laboratórium, bejelentette az „Együttes Igazodás” nevű új csapat létrehozását, hogy demokratikus folyamatokat alakítson ki az AI szoftvereik irányítására. Ez az kezdeményezés azzal a céllal jött létre, hogy kezelje a szakértelemmel és más tényezőkkel kapcsolatos aggályokat az AI technológia fejlesztése és használata során. A csapat azt a támogatói programot bővíti, amelyet 2023 májusában vezettek be, és amely a demokratikus folyamatokkal kapcsolatos kísérletekre koncentrált.
Az Együttes Igazodás csapat célja, hogy lehetővé tegye az emberek közvetlen bevonódását, ahogy az OpenAI folytatja a részét képező fejlett AI modellek fejlesztésének küldetését. A csapat egyik alapító tagja, Tyna Eloundou, kutatási mérnök, hangsúlyozta a nyilvánosság részvételének fontosságát az AI jövőjének alakításában.
Annak érdekében, hogy csak emberek tudjanak véleményt nyilvánítani, az OpenAI együttműködhet a Worldcoin projektet is létrehozó Sam Altman, az OpenAI vezérigazgatója által alapított kriptovaluta projekttel. A Worldcoin egy olyan módszert kínál, amely lehetővé teszi a humán felhasználók és az AI botok elkülönítését. A csapat új tagja, Teddy Lee, termékmenedzser, említette a Worldcoin technológiájának integrálásának lehetőségét, bár még nincsenek konkrét tervek.
Az OpenAI jelentős figyelmet váltott ki a ChatGPT nevű AI programjuk kiadásával, amely képes koherens és meggyőző szöveget generálni. Azonban az AI képessége, hogy manipulálja az információt, például „deepfake” képek létrehozását és dezinformáció terjesztését, aggodalmakat keltett, különösen a 2024-es amerikai választási kampány közeledtével. A kritikusok szerint az ilyen ChatGPT típusú AI rendszerek előfordulhatnak benne rejlő elfogultságok, amelyek adataik alapján származnak, és rasszista vagy szexista eredményekhez vezethetnek.
Az OpenAI új csapata aktívan toboroz egy kutatási mérnököt és kutatót. Szorosan együttműködnek majd a „Humán Adat” csapattal, amely kereteket alakít ki a humán vélemények összegyűjtésére az AI modellekkel kapcsolatban, valamint más kutatói csapatokkal.
Összességében az OpenAI elkötelezettsége a demokratikus irányítás és a különböző hangok bevonása iránt az AI technológia fejlesztése és használata során fontos lépés a felelős és elfogulatlan integrációja felé a társadalomba.
The source of the article is from the blog dk1250.com