Макс Тегмарк, відомий фізик і прихильник безпечного розвитку штучного інтелекту (ШІ), висловив рішуче попередження щодо потенційної існувальної загрози, яку ШІ становить для людства. Виступаючи на саміті з ШІ в Сеулі, Тегмарк підкреслив, як зміна уваги галузі зі вбудованих небезпек на більш загальні питання безпеки може ненавмисно затримати впровадження необхідних обмежень для потужних інтелектуальних систем.
Проводячи історичну паралель, Тегмарк порівняв поточну ситуацію у розвитку ШІ з розкішним моментом в ядерній фізиці. Він пояснив, як глибоке розуміння справи вдарило по провідних фізиків часів, коли Енріко Фермі побудував перший саморегульований ядерний реактор, оскільки це означало, що основна перешкода у створенні ядерної зброї була подолана. Це змусило їх зрозуміти, що створення атомної бомби тепер питання лиш останніх років, насправді бомба спростується всього за три.
У подібному ключі Тегмарк попередив про ризики моделей ШІ, які можуть пройти тест Тьюринга і стати не відрізними в комунікації від людей. Такі досягнення також становлять рівні небезпеки, оскільки немає гарантії постійного контролю над цими алгоритмами. Його стурбованість відображає ті, що недавно висловили публічно і приватно великі піонери галузі, такі як Джеффрі Гінтон і Йошуа Бенджо, а також керівники великих технологічних корпорацій.
Незважаючи на тисячі підписів експертів під петицією та попередження від впливових осіб, Тегмарк скаржився, що запропонований шестимісячний мораторій на дослідження ШІ залишився без відгуку. Високорівневі зустрічі продовжують акцентувати увагу більше на встановленні принципів регулювання, ніж на вирішенні негайних питань. Фізик підкреслив небезпеку у маргіналізації найактуальніших питань, пов’язаних з ШІ, посилаючись на історичні паралелі з тактикою ухилення тютюнової промисловості.
Проте, Тегмарк залишається сподіватися, відзначаючи, що починає підніматися хвиля громадської думки, коли навіть звичайні люди висловлюють своє занепокоєння щодо заміщення людей ШІ. Він наголосив на важливості переходу від діалогу до конкретних дій, підтримуючи введення державних стандартів безпеки як єдиний шлях до безпечного майбутнього ШІ.
Макс Тегмарк, фізик, який турбується про безпеку ШІ, не лише підкреслив потенційні ризики висунутого ШІ, але й потребу у попередніх заходах. Розмова щодо безпеки ШІ є багатогранною, з питаннями та викликами, які ставлять перед розробниками, законодавцями та громадськістю.
Найважливіші питання у зв’язку з безпекою ШІ можуть включати:
– Як забезпечити, що системи ШІ відповідають людським цінностям і етиці?
– Які види регуляторних рамок потрібні для управління розвитком та впровадженням ШІ?
– Як запобігти можливому зловживанню ШІ або веденню нас до непередбачуваних наслідків?
– Які заходи можуть бути прийняті для зменшення ризиків, пов’язаних із тим, що ШІ стає більш вдосконаленим, ніж людський інтелект?
Ключові виклики або суперечності, пов’язані з безпекою ШІ, зазвичай обертаються навколо:
– Складності передбачення поведінки складних систем ШІ, особливо коли вони стають більш автономними.
– Ризиків гонки зброї на базі ШІ між країнами або корпораціями, де прагнення до просування переважає над врахуванням запобіжних заходів.
– Етичних побоїв, таких як заміщення робочих місць та можливість ШІ приймати рішення, які можуть суперечити людському благополуччю.
– Прозорість алгоритмів ШІ та розуміння користувачами основ, на яких приймаються рішення.
Переваги та недоліки акценту на безпеці ШІ включають:
Переваги:
– Запобігання потенційним існувальним ризикам, що створюється неконтрольованим розвитком ШІ.
– Вирівнювання технології ШІ з людськими цінностями для забезпечення вигоди суспільства.
– Прогнозування та управління суспільними наслідками, такі як поліпшення якості життя та розлади на ринку праці.
Недоліки:
– Обмежувальні правила можуть сповільнити інновації та розвиток корисних технологій ШІ.
– Можлива неузгодженість міжнародних стандартів та правил, що призводить до конкурентних невигід.
– Надмірний акцент на гіпотетичні небезпеки може відвести увагу та ресурси від усунення поточних відхилень та помилок ШІ.
При розгляді пов’язаних інформаційних джерел важливо звертатися до авторитетних організацій, які займаються дослідженнями в галузі ШІ та етики. Відомі інститути, такі як Інститут майбутнього життя, заснований Максом Тегмарком, часто вивчають ці питання докладно. Щоб дізнатись більше про ШІ та його суспільний вплив, ви можете відвідати:
– Future of Life Institute
– AI Global
– Partnership on AI
Підходячи до безпеки ШІ з обізнаним поглядом та сприяючи глобальній співпраці, суспільство може скористатися потенціалом ШІ, захищаючись від ризиків.