Един колектив от вътрешни лица от OpenAI, водеща фирма по изкуствен интелект базирана в Сан Франциско, издига тревога относно предполагаемата безотговорност и тайнственост на културата в компанията. Този група вътрешни лица, включващи както сегашни, така и бивши служители, се събра наскоро поради споделената загриженост, че компанията не прилага подходящи мерки, за да предотврати техните системи по изкуствен интелект да станат опасни.
Тревогите вървят около развитието на Изкуствен Общ Интелект (AGI), което означава технологията, която потенциално може да изпълнява всяка интелектуална задача, която човек може. Въпреки това, по време на този процес, вътрешните лица обвиняват OpenAI, първоначално неправителствена изследователска институция, която беше в центъра на вниманието с излизането на ChatGPT през 2022 г., сега изглежда да насочва приоритетите си към корпоративен растеж и печалба в ущърб на безопасността.
Групата издаде тревожното съобщение, подчертавайки, че компанията е използвала насилствени методи, за да потисне изразите на загриженост на служителите. Тези вътрешни лица подчертават страстното усилие на OpenAI да води в развитието на AGI, като често изглежда, че продължава напред без задълбочена внимателност, въпреки потенциалните рискове.
Пример за тези обвинения идва от Даниел Кокотахиро, бивш изследовател в отдела по управление на OpenAI и водеща фигура в групата на свистачите. Той изрази мненията, които мнозина изпитват по повод на агресивното стремеж на компанията към AGI.
За да се справят с тези сериозни въпроси, вътрешната група публикува отворено писмо на 4-ти юни, призовавайки за увеличена прозрачност и по-добра защита за свистачите в големите фирми за изкуствен интелект, включително OpenAI. Те считат, че тези промени са от съществено значение за отговорното развитие на системи по изкуствен интелект, които няма да представляват непредвидени заплахи за обществото.
Докато статията обсъжда тревогите на вътрешната група относно културата и подхода на OpenAI към развитието на изкуствения интелект, също така е важно да бъдат добавени други съответни факти, за да се разбере пълноценно контекстът и последиците на тези проблеми:
Развитие на технологии и мерки за безопасност: Колкото по-бързо е развитието на изкуствения интелект, толкова по-важни стават критичните въпроси за безопасността и регулацията. Разработчиците и изследователите в областта често се оказват между напредъка на технологиите и гарантирането, че този напредък не води до непредвидени отрицателни последствия. Известно е, че мнозина експерти по изкуствен интелект приветстват превантивни и надеждни мерки за безопасност, за да управляват развитието на изкуствения интелект, особено по отношение на AGI, което може да има далече-разпространени последици за обществото и икономиките.
Прозрачност и откритост: OpenAI започна като неправителствена организация с цел да насърчава и развива приятелски изкуствен интелект по такъв начин, че да бъде от полза за цялото човечество. С времето, особено след прехода към „модел за печалби с ограничена доходност“, възникват въпроси относно нейната ангажираност към прозрачността и споделянето на изследования широко, върху които се отнасят тревогите на вътрешната група. Понятията за прозрачност и откритост са от решаващо значение в дебатите за етиката на изкуствения интелект, тъй като увеличената прозрачност може да доведе до по-голяма отговорност, по-широко разбиране на възможностите и ограниченията на системите по изкуствен интелект и може да помогне да се гарантира, че тези системи се използват за обществения интерес.
Етични различия: Развитието на AGI създава разногласия относно по-големите етични последици, като потенциалния отзвук върху заетостта, поверителността и цифровото разделение. Освен това въпросът как да се кодират морални ценности и умения за взимане на решения в системите на AGI е значително предизвикателство.
Управление на изкуствения интелект: Призивът за по-добра защита на свистачите от вътрешната група указва на по-голем проблем на управление в развитието на изкуствения интелект. С разширяването на изкуствения интелект, необходимостта от подходящи рамки за управление, включително регулации и надзорни органи, става все по-важна. Тези рамки могат да насочват развитието на изкуствения интелект по начини, които балансират иновациите с общественото благополучие.
Предимства на бързото развитие на изкуствения интелект:
– Съдейства за технологични иновации и може да доведе до значителни напредъци в различни области, включително здравеопазване, транспорт и образование.
– Може потенциално да насърчи икономическия растеж, като създаде нови пазари и индустрии.
– Предлага възможност за решаване на сложни глобални проблеми, като изменението на климата и болестите, чрез по-сложни аналитични и предиктивни инструменти.
Недостатъци на невъзпрепятстваното развитие на изкуствения интелект:
– Рискове от влошаване на съществуващите социални неравенства, особено ако ползите от изкуствения интелект не се разпределят широко.
– Възможност за неетично използване или злоупотреба на технологиите по изкуствения интелект, като масов надзор или автономни оръжия.
– Възможност за непредвидени последици, като появата на предразсъдъци в системите по изкуствен интелект, водещи до нелоялно дискриминиране или грешки.
Ключови въпроси и отговори:
1. Защо вътрешните лица от OpenAI издигат тревоги? Вътрешните лица издигат тревоги, защото вярват, че бързото стремеж на компанията към AGPI може да струва на сметка на безопасността и етическите въпроси.
2. Какво е AGI и защо е важно? Изкуствен Общ Интелект се отнася до система по изкуствен интелект, способна да изпълнява всяка интелектуална задача, която човек може да извършва. Той е важен поради своя потенциал да революционира различни аспекти на човешкия живот и световната икономика.
3. Какви са възможните последици, ако развитието на изкуствения интелект продължи невъзпрепятствано? Невъзпрепятстваното развитие на изкуствения интелект може да доведе до непредвидени негативни влияния върху обществото, като заместване на работни места, нарушаване на поверителността, рискове за сигурността и увеличаване на социалните неравенства.
За тези, които са заинтересовани от допълнителна информация за изкуствения интелект и AGI, може да намерите повече на уебсайта на OpenAI.
The source of the article is from the blog mendozaextremo.com.ar