OpenAI, Microsofti toetatud kunstliku intelligentsi labor, teatas uue meeskonna “Collective Alignment” loomisest, et kehtestada demokraatlikud protsessid nende AI tarkvara valitsemiseks. Selle algatuse eesmärk on lahendada muret erapoolikuse ja teiste tegurite üle AI tehnoloogia arendamisel ja kasutamisel. Meeskond laiendab 2023. aasta mais tutvustatud toetusprogrammi tööd, mis keskendus eksperimentide rahastamisele seotud demokraatlike protsessidega AI-s.
Collective Alignment meeskonna eesmärk on võimaldada inimestel anda otsest sisendit, samal ajal kui OpenAI jätkab missiooniga arendada arenenud AI mudeleid, mis võiksid saada ühiskonna lahutamatuks osaks. Meeskonna asutajaliige ja uurimisinsener Tyna Eloundou rõhutas avaliku osaluse tähtsust tuleviku kujundamisel AI valdkonnas.
Tagamaks, et ainult inimesed saavad sisendit anda, võib OpenAI koostööd teha Worldcoini projektiga, mille asutas OpenAI tegevjuht Sam Altman. Worldcoin pakub meetodit inimeste ja AI-botide eristamiseks. Uue meeskonna tootejuht Teddy Lee mainis võimalust integreerida Worldcoini tehnoloogiat, kuigi konkreetseid plaane pole veel tehtud.
OpenAI on saanud olulist tähelepanu ChatGPT vabastamisega, AI programmiga, mis suudab luua koherentsed ja veenvad tekstid. Siiski on tekkinud mure AI potentsiaali suhtes manipuleerida teabega, näiteks luua “deepfake” pilte ja levitada desinformatsiooni, eriti läheneva 2024. aasta USA valimiskampaania kontekstis. Kriitikud väidavad, et AI süsteemidel nagu ChatGPT võivad olla kaasasündinud erapoolikused, mis tulenevad sellel põhinevatest andmetest, ning see võib viia rassistlike või sooliste eelarvamuste ilmnemiseni.
OpenAI uus meeskond otsib aktiivselt uurimisinsenerit ja teadurit. Nad hakkavad tihedalt koostööd tegema “Human Data” meeskonnaga, mis loob raamistikke inimlike sisendite kogumiseks AI mudelitele, samuti teiste uurimismeeskondadega.
Kokkuvõttes on OpenAI pühendumus demokraatlikule valitsemisele ja erinevate häälte kaasamine AI tehnoloogia arendamisse ja kasutamisse oluline samm selle vastutustundliku ja erapooletu ühiskonda integreerimise tagamisel.
The source of the article is from the blog coletivometranca.com.br