У зворушливій дискусії про потенційні небезпеки, які може створити штучний інтелект (AI), спеціалісти з машинного навчання б’ються в запеклих дебатах. Ймовірність того, що AI може призвести до загибелі цивілізації людей, вдалося узяткувати за терміном, відомим як p(doom). Ця концепція викликала постійні суперечки серед професіоналів AI.
Колишній співробітник OpenAI Даніель Кокотайло оцінив ймовірність того, що AI спровокує катастрофічний падіння людства, як 70%. Під час нещодавнього інтерв’ю для New York Times, Кокотайло згадав, як його просили передбачити технологічні досягнення після приєднання до команди OpenAI у 2022 році. Він запропонував, що до 2027 року ймовірність того, що галузь AI може завдати катастрофічної шкоди світу або навіть призвести до його знищення, може значно зрости.
Переконаність Кокотайло в його прогнозі була настільки міцною, що він відіграв ключову роль у переконанні Сема Альтмана, генерального директора OpenAI, впровадити строжність вимог безпеки для нейронних мереж. Його підтримка посилення контролю була визнана як зусилля для пом’якшення надходячих ризиків, пов’язаних з розвитком цих технологій.
Однак до квітня 2024 року Кокотайло більше не відчував впевненості в зобов’язанні OpenAI дотримуватися етичних практик, що привело до його відставки. Його нерви виявилися в електронному листі, де він висловив втрату впевненості в свідомому виконанні компанією своїх обов’язків, підкреслюючи зростаючі обурення щодо траєкторії AI та її можливих наслідків для майбутнього людства.
Потенційні ризики та суперечності AI:
Під час обговорення можливості AI поставити край людству, виникають декілька важливих питань.
Які конкретні ризики постають від сучасних систем AI? Сучасні системи AI можуть збояти або бути використані для злої діяльності. Вони також можуть стати суперінтелектуальними сутностями, які не співпадають з людськими цінностями або цілями, що може призвести до неочікуваних наслідків.
Як можемо забезпечити, що системи AI відповідають людським цінностям? Це складна проблема, відома як проблема узгодження, і значна кількість досліджень приділяється пошуку шляхів навчання, вимірювання та збереження узгодженості AI.
Чи можуть регулювання та контроль стримати ризики AI? Регулювання – це ключова тема дискусій, багато хто стверджує, що обережний контроль і міжнародне співробітництво необхідні для пом’якшення ризиків, які поставляє AI. Однак стрімкий темп розвитку AI ставлять виклики перед регулятивними кадрами, які традиційно рухаються уповільнюються порівняно з технологічними інноваціями.
Щодо ключових викликів та суперечностей, є відсутність згоди щодо того, як збалансувати інновації з заходами безпеки. Деякі вважають суворе регулювання обмежуванням прогресу, тоді як інші вважають, що потенційні ризики виправдовують більш жорсткі контрольні заходи. Дихотомія між підтримкою розвитку AI та забезпеченням етичного використання – це інший клейовий пункт, бо конкурентний біг за АІ-перевагу може понизити пріоритети заходів безпеки.
Переваги та недоліки AI:
Плюси:
– AI має величезний потенціал для покращення ефективності та продуктивності в різних секторах, таких як охорона здоров’я, фінанси та транспорт.
– Системи AI можуть оброблювати та аналізувати великі набори даних швидше, ніж люди, допомагаючи в дослідженнях та прийнятті рішень.
– Автоматизація рутинних завдань за допомогою AI може звільнити людей для уваги більш креативним і стратегічним видам діяльності.
Мінуси:
– Існує обурення, що AI може перевершити інтелект людини і стати неконтрольованим, в сценарії часто називаємого “відносністю”.
– AI може призвести до значного втрати робочих місць, оскільки автоматизація стає більш поширеною.
– Можливість використання систем AI в злоумисних цілях, таких як автономна зброя, створює етичні та безпекові проблеми.
Для подальшого дослідження цих тем може бути потрібний доступ до надійних і авторитетних джерел. Ось деякі пов’язані посилання на уважні організації та дослідницькі інститути, що займаються дослідженнями AI та політикою:
– OpenAI
– Інститут AiNow
– Інститут майбутнього людства
– DeepMind
Кожна з цих організацій проводить дослідження з AI, його впливами та етичними аспектами розвитку сучасної AI. OpenAI, установа, пов’язана з заботами, висловленими Даніелем Кокотайло, визнана за свій внесок у просування технології AI відповідальним шляхом. Інститут AiNow вивчає соціальні наслідки штучного інтелекту. Інститут майбутнього людства у Оксфордському університеті фокусується на широких питаннях про людство і його перспективи, включаючи існуючі ризики, що створює AI. DeepMind, відомий своїми передовими дослідженнями з AI, також активно бере участь у обговореннях про етику та безпеку AI.
The source of the article is from the blog meltyfan.es