Видатний експерт Джеффрі Гінтон змінив свою увагу на потенційні небезпеки, що виникають внаслідок швидкого розвитку штучного інтелекту (ШІ), підкреслюючи необхідність провактивних заходів. Звертаючись до тривожної перспективи перевершення ШІ людським інтелектом, Гінтон підкреслює критичне значення виділення значних ресурсів для передбачення та запобігання ситуації, коли ШІ перевершить людей.
У відміну від поточних практик промисловості, Гінтон відстоює відведення 20-30% обчислювальних ресурсів на вивчення шляхів забезпечення контролю над еволюцією систем ШІ. Висловлюючи сумнів у тому, що окремі компанії пріоритизують безпеку над прибутком у капіталістичному ландшафті, він підкреслює важливу роль урядового втручання у регулюванні необмеженого прогресу технології ШІ.
Одним з помітних прикладів, що наводить Гінтон для ілюстрації зростаючого інтелекту ШІ, є помітні досягнення, показані технологією ChatGPT від OpenAI. Розширюючи можливості моделей ШІ, таких як GPT-4, Гінтон підкреслює неухильну тенденцію до підвищеного інтелекту, спричиненого технологічними поліпшеннями та науковими проривами.
Попереджувальна історія, створена Гінтоном, описує конкурентне середовище, що виникає в області ШІ, де механізми самозбереження підштовхують сутності ШІ до прагнення до домінування. Звертаючи увагу на етичні наслідки еволюції ШІ, Гінтон підкреслює необхідність співпраці зацікавлених сторін промисловості та законодавців у зменшенні можливих ризиків та захисті від непередбачених наслідків.
У драматичному повороті від своїх промислових зв’язків, відхід Гінтона від провідної технологічної компанії підкреслює зростаюче відчуття відповідальності та етичної свідомості в області ШІ. Подальша дискусія про етику ШІ підсилюється, адвокатура Гінтона за посилені заходи безпеки та регуляторні каркаси свідчить про критичний період у формуванні траєкторії розвитку ШІ у напрямку більш стійкої та безпечної майбутньої.
The source of the article is from the blog macnifico.pt