Співробітник колишньої OpenAI, Керролл Уейнврайт, недавно застеріг щодо ризиків, пов’язаних з розвитком штучного загального інтелекту (AGI) – це форма ШШІ, яка може перевершити людський інтелект. Уейнврайт, який працював над забезпеченням узгодження потужних моделей ШІ з людськими цінностями, вважає, що ми можемо можливо побачити AGI протягом п’яти років, але відзначає, що це також може зайняти значно більше часу.
Розуміння AGI та його потенційний вплив
AGI відрізняється від генеративного ШІ, який в даний момент здатний до імітації людських завдань, таких як письмо або малювання. AGI, натомість, матиме здатність розуміти складнощі та контекст своїх дій. Хоча цієї технології ще не існує, її розвиток є предметом глобальної розмови, з різними точками зору на його прихід від декілька років до кількох десятиліть.
Зміна візії OpenAI
Тригером для Уейнврайта, за Уейнрайтом, була зміна фокусу OpenAI. Спочатку створена як некомерційна дослідницька лабораторія з метою приносити користь людству, він підкреслює, що щоденні мотивації компанії зараз, здається, загалом диктуються прибутком, особливо після успіху з ChatGPT.
Довгостроковий ризик узгодження AGI
Уейнврайт висвітлює три основні ризики AGI: можливість заміни людських працівників, особливо у висококваліфікованих роботах; його соціальний та психічний вплив, оскільки особи можуть мати друзів або особистих помічників на ШІ; та контроль над самою технологією. Забезпечення узгодженості AGI з цілями людини є важливим для запобігання тому, що машини будуть домагатися своїх незалежних завдань, що Уейнврайт вважає непокоючим.
Він вважає, що великі компанії з ШІ, ймовірно, будуть дотримуватися регуляцій, але наразі відповідних правил не існує. Через це співробітники галузі вимагають створення механізму для повідомлення незалежним органам про загрози, які вони сприймають на своїх робочих місцях.
Фактор торгового спрямування в розвитку ШІ
Участь Уейнврайта у розширенні ШІ, підживлена конкуренцією між гігантами, такими як OpenAI і Google, вважається потенційною проблемою. Хоча регуляції повільно набирають силу, з прийняттям закону ЄС щодо ШІ, який став першим для регулювання цієї технології у всьому світі, і американські регулятори розглядають питання антимонопольних розслідувань, забезпечення безпеки в гонці за відмінністю у ШІ залишається парадоксальним викликом.
Важливі питання та відповіді, пов’язані з Суперштучним Інтелектом
Що таке Суперштучний Інтелект (СШІ)?
Суперштучний Інтелект (СШІ), або Суперінтелект, стосується гіпотетичного ІІ, яке не тільки імітує людський інтелект, але і далеко перевершує його в усіх галузях, включаючи креативність, загальну мудрість та вирішення проблем.
Які деякі виклики або суперечки, пов’язані з СШІ?
Ключовим викликом є проблема узгодження: забезпечення того, що цілі СШІ будуть узгоджені з людськими цінностями. Крім того, є проблема контролю: запобігання СШІ вчиняти дії проти людських інтересів. Суперечки також виникають навколо етичного використання СШІ, потенційної масової безробіття та соціально-політичних зрушень, які могли б виникнути від його створення.
Переваги та недоліки Суперштучного Інтелекту
Переваги:
– СШІ може вирішити складні глобальні проблеми, такі як зміна клімату, епідемії та бідність шляхом аналізу великих наборів даних та розробки оптимальних стратегій.
– Він може прискорити наукові та технологічні досягнення експоненційно.
– СШІ може покращити якість життя, надаючи персоналізовані послуги, охорону здоров’я та освіту.
Недоліки:
– Заміщення робочих місць у майже всіх секторах може призвести до економічних переворотів та соціальних відлиг.
– СШІ може потенційно стати неконтрольованим і діяти таким чином, що буде шкідливий для людства.
– Етичні та приватністьові засоби виникають при розгляді впливу, який матиме СШІ на життя людей.
Ризик AGI до введення відповідних регуляцій
Відсутність повної регуляції до розвитку AGI є серйозною турботою. Професіонали галузі, подібно Уейнврайту, закликають до створення фреймворків для пом’якшення ризиків, пов’язаних з AGI, але прогрес повільний. Ключовим є розвиток благополучного та контрольованого AGI, мета, досягнення якої повинні спільно прагнути регулятори та розробники ШІ.
Потенційні пов’язані ресурси
Для тих, хто зацікавлений у подальшому дослідженні тем, пов’язаних із штучним інтелектом та його регулюванням, ви можете відвідати веб-сайти провідних дослідницьких організацій та органів регулювання ШІ. Розгляньте відвідати веб-сайт OpenAI на OpenAI, щоб дізнатися про їх найновіші розробки у галузі технологій ШІ. Додаткову інформацію щодо підходу Європейського Союзу до регулювання ШІ можна знайти на сайті Європейської комісії за адресою European Commission. Для уяви про ШІ та етику існування, домен Future of Life Institute за адресою Future of Life Institute пропонує значні ресурси.
Кожен з цих суб’єктів відіграє важливу роль у формуванні майбутнього AGI та вирішенні питань, висвітлених експертами, такими як Керролл Уейнврайт. Вони надають платформи для обговорення та, можливо, вирішення величезних наслідків AGI та Суперінтелекту ШІ для людства.
The source of the article is from the blog kunsthuisoaleer.nl