Останні звіти з різних галузей підкреслюють наближаються ризики, пов’язані з штучним інтелектом (ШІ), які виходять за межі стурбованості, вираженої раніше представниками Сіліконової Долини. Фінансова агентура, регулююча галузь фінансового ринку (FINRA), визнала ШІ “новим ризиком”, тоді як Світовий економічний форум прийшов до висновку, що найбільш ближнім терміновим загрозою для світової економіки є розповсюдження дезінформації на основі ШІ.
Рада нагляду за фінансовою стабільністю (FSOC) також висловила занепокоєння щодо ШІ, наголошуючи на можливих безпосередніх шкодливих наслідках для споживача, упереджених рішень і невідомих дизайнерських вад, які можуть нарушити фінансову систему. Гері Генслер, голова Комісії з цінних паперів і бірж (SEC), висловив страхи щодо ризиків збереження фінансової стабільності через використання інвестиційними компаніями моделей ШІ для прийняття рішень.
На щорічній конференції Світового економічного форуму ШІ стала основною темою обговорень, щодо ризиків та наслідків для світової економіки. В опитуванні форуму, спрямованому на політиків і лідерів промисловості, фейкові новини і АІ-згенерована пропаганда сприймаються як найбільш термінові ризики для світової економіки, особливо у виборчий період у різних країнах.
Занепокоєння щодо ШІ не обмежується фінансовим сектором. Вищий суд визнав ризики, пов’язані зі знаннями ШІ про приватність і дехуманізацію права. Юридичні експерти попереджають про надмірну залежність від ШІ у фінансовому управлінні, вказуючи на потенційні непередбачувані наслідки і обмеження систем ШІ.
Незважаючи на те, що ШІ надає можливості для поліпшення спілкування з клієнтами та операційної ефективності в індустрії фінансових послуг, є занепокоєння щодо упереджених рішень щодо кредитів і можливості ринкової краху, якщо кілька установ покладаються на одну та саму систему ШІ з дефектами.
Постаючи все більш складними та здатними, експерти хвилюються, що погано спроектовані системи та “чорні скриньки” автоматизації можуть призвести до розриву довіри між покупцями та продавцями. Крім того, необхідне проведення тестування стресу систем ШІ з метою розуміння їх можливих вад.
Дискусії про ризики ШІ набувають обертів поза Сіліконовою Долиною, заявляють регулятори, юридичні фахівці та лідери фінансової галузі. Дуже важливо, щоб політики, фахівці галузі та дослідники зайнялись цими новими ризиками та забезпечили розвиток і регулювання ШІ з пріоритетом безпеки, справедливості та прозорості.
The source of the article is from the blog dk1250.com