Колишній співробітник OpenAI Керролл Вейнрайт нещодавно попередив про ризики, пов’язані з розробкою штучного загального інтелекту (Artificial General Intelligence, AGI), форми штучного інтелекту, яка може перевершити інтелект людини. Вейнрайт, який працював над забезпеченням відповідності потужних моделей штучного інтелекту людським цінностям, вважає, що ми можемо побачити AGI вже протягом п’яти років, але він також визнає, що це може зайняти значно більше часу.
Розуміння AGI та її потенційний вплив
AGI відрізняється від генеративного штучного інтелекту, який на даний момент здатний до таких завдань, як написання або малювання. AGI, натомість, матиме можливість розуміти складнощі та контекст своїх дій. Хоча така технологія поки що не існує, її розвиток ставає предметом глобальної розмови, де думки щодо її приходу відрізняються від кількох років до декількох десятиліть.
Зміна візії OpenAI
Тригером для висловлення Вейнрайт, за словами Вейнрайта, стала зміна у фокусі OpenAI. Спочатку заснована як некомерційна дослідницька лабораторія з метою покращення гуманітарного стану, він вказує, що щоденні мотивації компанії зараз, здається, переважно стимульовані прибутком, особливо після успіху ChatGPT.
Довгостроковий ризик невідповідності AGI
Вейнрайт висвітлює три основні ризики AGI: можливість заміни людських працівників, особливо в кваліфікованих професіях; соціальний та психологічний вплив, оскільки люди можуть стати власниками AI-друзів або особистих асистентів; та контроль над самою технологією. Забезпечення відповідності AGI із завданнями людини є важливим для запобігання тому, щоб машини не здійснювали свої незалежні стратегії, що хвилює Вейнрайта.
Він вважає, що основні компанії зі штучного інтелекту, ймовірно, дотримуватимуться правил, але в даний час належних правил не існує. Отже, працівники галузі закликають до механізму повідомлення незалежним органам про небезпеки, які вони сприймають у своїх місцях роботи.
Чинник поспіху при розвитку штучного інтелекту
Вейнрайт вважає поспіх у просуванні штучного інтелекту, підживлений конкуренцією між гігантами, такими як OpenAI та Google, може бути потенційним проблемним питанням. Хоча правила поступово набувають чинності, із Законом ЄС про штучний інтелект як першим, що регулює цю технологію у всьому світі, а також розглядають антимонопольні розслідування регулятори США, забезпечення безпеки у гонці за перевагами у штучному інтелекті залишається парадоксальним викликом.
Важливі питання та відповіді, пов’язані із суперштучним інтелектом
Що таке Суперштучний Інтелект (Super Artificial Intelligence, SAI)?
Суперштучний Інтелект (SAI), або Суперінтелект, відноситься до гіпотетичного ШІ, який не лише моделює людський інтелект, але значно перевершує його у всіх областях, включаючи креативність, загальну мудрість та вирішення проблем.
Які є деякі виклики чи суперечки, пов’язані з SAI?
Один з ключових викликів – проблема відповідності: забезпечення того, щоб завдання САІ були відповідні людським цінностям. Додатково, є проблема контролю: запобігання діям САІ від хибек проти інтересів людини. Суперечки виникають і навколо етичного використання САІ, потенційної масової безробіття та соціополітичних перемін, які можуть виникнути внаслідок його створення.
Переваги та недоліки Суперштучного Інтелекту
Переваги:
– SAI може вирішувати складні глобальні проблеми, такі як зміна клімату, пандемії та бідність, аналізуючи великі набори даних та розробляючи оптимальні стратегії.
– Він може прискорити наукові та технологічні досягнення вмножину.
– SAI може покращити якість життя, надаючи персоналізовані послуги, охорону здоров’я та освіту.
Недоліки:
– Виселення робочих місць у майже всіх секторах може спричинити економічні порушення та соціальні потрясіння.
– SAI може потенційно стати неконтрольованим та діяти у шкідливий спосіб для людства.
– Етичні та конфіденційність становлять проблеми, коли ми маємо справу з потужністю, яку матиме SAI над життями людей.
Ризик AGI до належного регулювання
Відсутність комплексного регулювання до розробки AGI є серйозною проблемою. Професіонали промисловості, такі як Вейнрайт, закликають до створення рамок для пом’якшення ризиків, пов’язаних із AGI, але прогрес повільний. Ключовою є розробка AGI, яка буде корисною та контрольованою, мета, яку регулятори та розробники штучного інтелекту повинні спільно прагнути досягнути.
Можливі пов’язані ресурси
Для тих, хто зацікавлений у подальшому вивченні тем, пов’язаних з штучним інтелектом та його регулюванням, ви можете відвідати веб-сайти провідних організацій для дослідження штучного інтелекту та регуляторних органів. Розгляньте відвідати веб-сайт OpenAI на OpenAI, щоб дізнатися про їх останні розробки в галузі технологій штучного інтелекту. Додатково, інформацію про підхід Європейського Союзу до регулювання штучного інтелекту можна знайти на сайті Європейської Комісії за адресою European Commission. Для отримання інформації щодо штучного інтелекту та етики домен Future of Life Institute на Future of Life Institute пропонує цінні ресурси.
Кожна з цих організацій відіграє свою роль у формуванні майбутнього AGI та вирішенні питань, вказаних експертами, такими як Керролл Вейнрайт. Вони надають платформи для обговорення та можливої відповіді на великі наслідки AGI та Суперінтелектуального ШІ для людства.
The source of the article is from the blog foodnext.nl