Нове дослідження пролило світло на проблеми, пов’язані зі стрімким розвитком штучного інтелекту (AI), що становлять загрозу для національної безпеки. Дослідження, замовлене Державним департаментом США, попереджає, що у випадку недостатньої уваги розвинуті системи штучного інтелекту можуть призвести до катастрофічних наслідків, а навіть представляти загрозу для винищення людської раси.
Висновки дослідження базувалися на обширних інтерв’ю з понад 200 експертами у цій галузі, включаючи вищих керівників провідних компаній зі штучного інтелекту, дослідників з кібербезпеки, експертів у галузі збройних масового знищення та національних допоміжних структур. Він підкреслює терміновість уряду у вирішенні цих ризиків, перш ніж буде занадто пізно.
Хоча дослідження було замовлене Державним департаментом, важливо відзначити, що воно не відображає офіційну позицію уряду США. Тим не менш, воно служить гострою нагадівкою про те, що AI, незважаючи на його величезний потенціал для позитивних трансформацій, також несе значні небезпеки.
Жеремі Гарріс, генеральний директор і співзасновник Gladstone AI, організації, що оприлюднила звіт, наголошує на необхідності усвідомлювати серйозні ризики, пов’язані з AI. Є все більше доказів того, що при досягненні певних можливостей системи AI можуть стати неконтрольованими. Це є проблемою, над якою розмірковують різні експерти та дослідники у цій галузі.
У відповідь на ці ризики Білий дім вживає заходів для управління потенційними небезпеками штучного інтелекту. Повноважний наказ президента Джо Байдена щодо AI вважається найбільш значущим кроком, який уряд будь-якої країни взяв для балансування обіцянок та ризиків цієї нової технології. Адміністрація активно співпрацює з міжнародними партнерами і закликає до прийняття законодавства, щоб урегулювати ризики, пов’язані з AI.
Звіт висвітлює дві ключові небезпеки, які ставить AI. По-перше, розвинуті системи AI можуть потенційно бути збройги, призводячи до необоротних…
Frequently Asked Questions
1. Які загрози становлять розвинуті системи AI?
Найрозвиненіші системи штучного інтелекту мають потенціал бути збройгими, призводячи до значної необоротної шкоди. Існує також облік того, що системи AI можуть стати неконтрольованими з потенційно катастрофічними наслідками для глобальної безпеки.
2. Які кроки вживаються для управління цими ризиками?
Звіт закликає до створення нового агентства AI, впровадження невідкладних регуляторних заходів та обмеження обчислювальної потужності, використованої для навчання моделей AI. Уряд США також працює з міжнародними партнерами та закликає Конгрес прийняти законодавчі акти, що належним чином управляють ризиками, пов’язаними з AI.
3. Що таке штучний загальний інтелект (AGI)?
Штучний загальний інтелект відноситься до гіпотетичної форми AI, яка має людські або навіть надлюдські здатності до навчання. Вважається, що він є основною причиною катастрофічних ризиків внаслідок втрати контролю.
4. Хто ще висловив обурення щодо ризиків AI?
Визначні постаті, включаючи Геоффрі Гінтона, Ілона Маска, голову Федеральної торговельної комісії Ліну Хан та ви…
The source of the article is from the blog lokale-komercyjne.pl