Великі технологічні компанії та уряди об’єднуються для встановлення заходів безпеки в галузі штучного інтелекту. Гіганти у сфері технологій, зокрема Microsoft, OpenAI, Anthropic і ще тринадцять компаній, прийшли до згоди щодо передової політичної рамки. Якщо виникне ситуація, що може вийти із-під контролю під час розробки нових моделей ШІ, вони домовилися призупинити прогрес, щоб уникнути потенційних катастрофічних сценаріїв подібних до подій у реальному житті, як в фільмі “Термінатор”.
Узгоджені зусилля для зменшення ризиків ШІ. Цю угоду досягли в Сеулі, де організації та представники уряду зібрались, щоб визначити свою стратегію стосовно розвитку ШІ. Угода зосереджується на “вимикачі безпеки” – зобов’язання зупинити розвиток їх найновіших моделей ШІ, якщо вони перетнуть попередньо визначені рівні ризику.
Відсутність конкретних дій і ясності триває. Незважаючи на угоду, позначений відсутністю конкретних дій або визначення “небезпечного” порогу, який міг би ввімкнути вимикач безпеки. Це ставить під сумнів правову реальність та ефективність політики.
Згідно з доповідями, зібраними порталом Yahoo News, виняткові випадки можуть змусити організації не випускати нові моделі ШІ, якщо заходи контролю є недостатніми. Такі великі гравці, як Amazon, Google та Samsung, також виразили свою підтримку ініціативі, сигналізуючи про широкий консенсус галузі.
Обговорення з експертами у сфері штучного інтелекту, які були опубліковані порталом Unboxholics, підкреслюють значні ризики, які вимагали такого єдиної рішення. Цей крок відображає прогнози відомого вченого Джеффрі Гінтон, який попереджав про потенційну заміну людей штучним інтелектом у різних сферах роботи, сигналізуючи про глибокі зміни у динаміці робочої сили.
Важливі питання та виклики, що стосуються стратегій негайного відключення ШІ:
1. Визначення “небезпечних” порогів: Ключове виклик полягає в встановленні точних параметрів, які визначають, коли ШІ стає занадто ризикованим для продовження розробки. Без чітких визначень будь-яка угода про припинення може бути суб’єктивною та піддаватись тлумаченню.
2. Виконавча здійсненість: Забезпечення дотримання всіма сторонами угоди про припинення важке, особливо з урахуванням відсутності глобальних регуляторних рамок, спеціально для ШІ.
3. Технічна можливість: Сама можливість включення вимикача є технічною проблемою, яка вимагає створення надійних механізмів у ШІ системах, що є складним завданням.
4. Конкурентні тиски: Компанії можуть бути неохочими призупиняти або уповільнювати дослідження, якщо конкуренти цього не роблять, що може призвести до потенційної гонки озброєнь у розвитку ШІ.
5. Конфіденційність та безпека даних: Просунуті ШІ системи можуть обробляти величезні обсяги даних, і їх раптове вимкнення може створити загрози для конфіденційності та безпеки даних.
Переваги Угоди про Припинення ШІ:
– Збільшення безпеки: Вона забезпечує захист від непередбачуваних наслідків складних систем ШІ.
– Довіра громадськості: Така угода може підвищити громадську довіру до технологій ШІ та суб’єктів, що їх розробляють.
– Спільна відповідальність: Вона сприяє культурі відповідальності та співпраці серед технологічних компаній.
Недоліки Угоди про Припинення ШІ:
– Гальмування інновацій: Дуже обережні чи неоднозначні рекомендації можуть загальмувати інновації.
– Нешвидкість конкурентних переваг: Суб’єкти, які дотримуються угоди, можуть відстати від тих, хто не дотримується, особливо в регіонах з різними рівнями регулювання чи виконавчості.
– Складність впровадження: Практичні аспекти впровадження та управління вимикачем можуть бути викликані складними та ресурсно-затратними.
Незважаючи на запропоновані переваги та помітні виклики, цей розвиток ситуації свідчить про зміну у поглядах технологічної галузі на її відповідальність у формуванні майбутнього ШІ. Неминучість впровадження розширених систем ШІ змушує враховувати заходи безпеки для захисту від шкідливих наслідків. Для того, щоб бути в курсі нових розробок, політики та обговорень щодо ШІ, рекомендуємо перевіряти важливі джерела, такі як Асоціація на Завдання Штучного Інтелекту (AAAI) на веб-сайті AAAI і Інститут Майбутнього Життя на веб-сайті Future of Life Institute.
The source of the article is from the blog portaldoriograndense.com