Бивш исследовател в OpenAI, Леополд Ашенбренер, наскоро допринесе към текущата дискусия за изкуствения интелект (ИИ) с обширно есе, с обем от 165 страници. В него той залага в напредъка на технологиите за ИИ и проучва широките импликации за обществото и сигурността.
Аналитичната ИИ система GPT-4 е била от съществена полза за съкратяването на дългата дискусия на Ашенбренер в насочени съображения. Този инструмент, разработен от бившия му работодател, подчертава същността на неговите прогнози относно развитието на ИИ.
Ашенбренер работеше в ‘Супер Съгласувателен Екип’ в OpenAI, насочен към намаляване на рисковете от ИИ, преди да бъде уволнен през април. Неговото напускане, заедно с други, дойде докато се възникнаха загриженостите за насочеността на компанията към безопасността на ИИ. Причината, цитирана за неговото изгонване, беше разпространението на информация относно готовността на компанията за напреднали ИИ, обвинение, което той считаше за предлог за уволнение.
Регионални експерти предлагат, че есето на Ашенбренер е изключително лишено от поверителни детайли за OpenAI. Вместо това то търси публично достъпни данни, лични виждания, техническа експертиза и спекулации от кафенета в Сан Франциско, за да изгради своите наративи.
С помощта на AI-сумаризатор от ChatGPT погледите на Ашенбренер бяха кондензирани до само 57 думи, като акцентира върху неговите теории за трансформационния потенциал на генералните и суперинтелигентностите. Освен това, се предвиждат значителни технологични прогреси в близкото бъдеще, водещи до бързо развитие от текущите модели като GPT-4 към по-развита ИИ, подтикната от изчислителната мощност и алгоритмичната ефективност.
Обобщено, Ашенбренер предвижда свят, в който ИИ напредва с неизброима скорост, което вероятно би съответствало на човешката когнитивна способност в изследователската работа по ИИ и инженерство до 2027 г., скок, който би могъл да предизвика ‘интелигентна експлозия’. Той предупреждава за значителните икономически, етически и сигурностни предизвикателства, които би представяло това развитие, настояйки за нуждата от силно инвестиране в инфраструктура и методични процедури за защита срещу злоупотреба, като размисля за потенциалния обществен сблъсък.
Най-Важни Въпроси и Отговори:
В: Какви могат да бъдат потенциалните последици, ако ИИ съответства на човешката когнитивна способност в изследователската работа и инженерството?
О: Потенциалните последици включват трансформативен прогрес в различни области, масови икономически промени, етически съображения относно автономията и правата на ИИ, изселване на работници, и сигурностни проблеми около злоупотребите с ИИ. Съществува и възможност за ‘интелигентна експлозия’, където ИИ могат да подобряват себе си рекурсивно с ускоряваща се скорост, водещо до резултати, които са трудни за предвиждане или контрол.
В: Как можем да гарантираме безопасното и етично развитие на ИИ?
О: Гарантирането на безопасност включва инвестиране в научни изследвания по изглаждане на ИИ, установяване на международни регулации, разработване на здравословни сигурностни мерки, и създаването на аварийни процедури. Етичното развитие може да бъде укрепено чрез междисциплинарен диалог с участието на етицисти, технолози, политици и обществени заинтересовани страни, за да се насочи разумното използване на ИИ.
Централни Предизвикателства и Контроверзии:
Проблемът за безопасност и контрол е от първостепенно значение; контролирането на високо развитите системи за ИИ представлява огромни предизвикателства. Друга контроверза се крие във въздействието на ИИ върху заетостта; по мярка като ИИ системите стават по-способни, те биха могли да изтласкат работници в различни отрасли. Освен това, има и проблемът за защита на данните и предразсъдъците; ИИ системите трябва да бъдат обучени с обширни данни, възникващи загрижености относно нарушенията на личната неприкосновеност и подсилването на обществените предразсъдъци.
Предимства:
Развитието на ИИ може да доведе до подобрения в здравеопазването, персонализираното образование, ефективното използване на енергията, и решаването на сложни глобални предизвикателства като изменението на климата. То също така би могло да увеличи нашето разбиране за интелигенцията като явление.
Недостатъци:
Ако не е насочено спрямо човешките ценности, ИИ би могъл да нанесе вреда. Съществува риск от икономическа неравеност, тъй като тези, които контролират мощни технологии за ИИ, биха могли да придобият непропорционално богатство и власт. Освен това, потенциалът за автономно оръжие и наблюдателни държави издига значителни етически и сигурностни въпроси.
За да сте информирани за по-широката дискусия за изкуствения интелект, можете да посетите съответни организации и да получите достъп до техните изследвания и дискусии:
– OpenAI, чиято работа се фокусира както върху напредъка на цифровата интелигентност, така и върху гарантирането на широкото споделяне на нейните ползи: OpenAI
– Институтът за Бъдещето на Живота, който изследва екзистенциалните рискове пред човечеството, по-специално екзистенциалния риск от напреднал ИИ: Future of Life Institute
– Центърът за Изучаване на Екзистенциалния Риск, междисциплинарен изследователски център, фокусиран върху изследването на рисковете за изчезване на човечеството, които не могат да бъдат надеждно сдържани: CSER
– Институтът за Изследване на Машинната Интелигентност, фокусира се върху развитието на формални теории за рационално поведение на системи за ИИ и други теоретични изследвания, съществени за гарантирането, че системите за ИИ имат положително влияние: MIRI