Макс Тегмарк, відомий фізик і прибічник безпечного розвитку штучного інтелекту (ШІ), висловив гостре попередження щодо потенційної екзистенційної загрози, яку ШІ становить для людства. Виступаючи на саміті з питань ШІ в Сеулі, Тегмарк підкреслив, як зміна уваги галузі з внутрішніх небезпек на загальні питання безпеки може ненавмисно затримати впровадження необхідних обмежень для потужних інтелектуальних систем.
Запроваджуючи історичну паралель, Тегмарк порівняв поточну ситуацію у розвитку ШІ з переломним моментом у ядерній фізиці. Він пояснив, як провідні фізики часу відчули глибоке усвідомлення, коли Енріко Фермі побудував перший самозберігаючий ядерний реактор, оскільки це означало, що була подолана основна перешкода у створенні ядерної зброї. Це заставило їх усвідомити, що створення атомної бомби зараз це питання лише кількох років, точніше, бомба вийде на світ усього за три роки.
Так само Тегмарк попередив про ризики ШІ-моделей, які можуть успішно пройти тест Тьюрінга та стати не відрізненними від людей у комунікації. Такі просування теж становлять рівну небезпеку, оскільки немає гарантії постійного контролю над цими алгоритмами. Його стурбованість віддзеркалює схожі хвилювання, які нещодавно висловлювали як публічно, так і приватно засновники промисловості, такі як Джеффрі Гінтон і Йошуа Бенжіо, а також керівники провідних технологічних корпорацій.
Незважаючи на тисячі підписів експертів під петицією та попередження від впливових особистостей, Тегмарк скаржиться, що запропонований 6-місячний мораторій на дослідження ШІ залишився без відгуку. Високорівневі зустрічі продовжують акцентувати увагу більше на встановленні принципів регулювання, ніж на вирішенні нагальних проблем. Фізик підкреслив небезпеку в упущенні з уваги найбільш нагальних питань, пов’язаних з ШІ, посилаючись на історичні паралелі з тактиками відволікання тютюнової промисловості.
Проте, Тегмарк залишається оптимістичним, зазначаючи, що хвиля громадської думки може почати змінюватись, оскільки навіть звичайні люди висловлюють своє занепокоєння щодо заміщення людей ШІ. Він наголошує на важливості переходу від діалогу до конкретних дій, виступаючи за введення державних стандартів безпеки як єдиний спосіб забезпечити безпечне майбутнє ШІ.
Макс Тегмарк, фізик, який турбується про безпеку ШІ, не лише підкреслив потенційні ризики високорівневого ШІ, а й необхідність активних заходів. Обговорення щодо безпеки ШІ багатогранне, з питаннями та викликами, що виникають перед розробниками, політиками та громадськістю.
Найважливіші питання у зв’язку з безпекою ШІ можуть включати:
– Як ми можемо забезпечити, що системи ШІ відповідають людським цінностям та етиці?
– Які види регуляторних рамок потрібні для управління розвитком та впровадженням ШІ?
– Як ми можемо запобігти зловживанню ШІ або його можливому призводженню на непередбачені наслідки?
– Які заходи можна прийняти для пом’якшення ризиків, пов’язаних з тим, що ШІ стає більш розвиненим, ніж людський інтелект?
Основні виклики або суперечності, пов’язані з безпекою ШІ, зазвичай обертаються навколо:
– Складності передбачення поведінки складних систем ШІ, особливо коли вони стають більш автономними.
– Ризиків в ШІ-змаганні між націями або корпораціями, де тиск на просування переважає питання безпеки.
– Етичних питань, як-от переміщення робочих місць та можливість ШІ приймати рішення, що можуть суперечити благополуччю людини.
– Прозорості алгоритмів ШІ та того, чи користувачі розуміють на чому базуються прийняті рішення.
Переваги і недоліки фокусування на безпеці ШІ включають:
Переваги:
– Профілактика потенційних екзистенційних ризиків, що створюються не контрольованим розвитком ШІ.
– Відповідність технології ШІ людським цінностям, щоб забезпечити їх користь суспільству.
– Прогнозування та управління соціальними впливами, такими як покращення якості життя та розлади на ринку праці.
Недоліки:
– Обмежувальні регуляції можуть уповільнити інновації та розвиток корисних технологій ШІ.
– Можлива недохідність міжнародних стандартів та регуляцій, що може привести до конкурентних недоліків.
– Перетворення уваги та ресурсів на гіпотетичні небезпеки може відвернути увагу від адресування поточних упереджень та помилок ШІ.
При розгляді відповідної інформації важливо звертати увагу на авторитетні організації, які проводять дослідження в галузі ШІ та етики. Видатні інститути, як Фонд майбутнього життя, співзаснований Максом Тегмарком, часто детально досліджують ці питання. Для дізнання більше про ШІ та його соціальний вплив ви можете відвідати:
– Фонд майбутнього життя
– AI Global
– Партнерство з ШІ
Закликаючи до безпеки ШІ з інформованої позиції і сприяючи глобальному співробітництву, суспільство може скористатися потенціалом ШІ, зберігаючи від його ризиків.
The source of the article is from the blog maestropasta.cz