Штучний інтелект (ШІ) швидко розвивається в останні роки, викликаючи як захоплення, так і стурбованість щодо його потенційного впливу на людство. Відомий когнітивний психолог і вчений-комп’ютерник Джефрі Гінтон визнаний провідною постаттю у галузі. Покинувши свою посаду в Google, Гінтон висловлює глибоку тривогу щодо зростаючої потужності ШІ та пов’язаних із цим ризиків.
Турботи Гінтона обертаються навколо потенціалу ШІ поширювати дезінформацію, руйнувати ринок праці та навіть ставити існуванційні загрози. Як піонер технології нейронних мереж, яка є основою ШІ, Гінтон визнає необхідність обережного регулювання. У відповідь на ці турботи законодавці Європейського Союзу недавно схвалили нові регулятиви, тоді як уряд Нової Зеландії вказував на схожі наміри.
Під час інтерв’ю з програмою Nine to Noon на RNZ, Гінтон розмірковував про свій відчуття на початку 2023 року, що цифрові комп’ютери, що виконують нейромережі, можуть перевершити біологічний інтелект. Цей висновок виник під час дослідження методів зробити ШІ більш енергоефективним. Гінтон підкреслює, що сила цифрових комп’ютерів полягає в їхній здатності ділитися знаннями один з одним, роблячи їх набагато переважнішими за людей у цьому відношенні. З декількома копіями однієї й тієї ж моделі нейронної мережі, кожна з яких вивчає різні аспекти Інтернету, вони можуть миттєво ділитися своїм загальним знанням. Цей мережевий підхід створює рої знань і досвіду далеко за межами будь-якої індивідуальної оcобистості.
Гінтон проливає світло на схожість між людською пам’яттю та здатністю ШІ до запам’ятовування інформації. Він підкреслює, що відтворення подій минулого включає комбінацію згадувань, формування припущень і, можливо, спотворення деталей. Подібно до цього, нейромережі ґрунтуються на зв’язках між нейронами для створення правдоподібних відповідей або результатів. У цей спосіб нейромережі працюють більше як людська когніція, розмиваючи межу між розумінням людини та можливостями ШІ.
Ще однією темою турботи, піднятою Гінтоном, є зростання автономії ШІ систем. Створюючи агентів, обладнаних великими моделями, ШІ системи можуть діяти незалежно, виконуючи підцілі в межах більших планів. Однак Гінтон вважає, що обережність необхідна при визначенні цих підцілей. Якщо не контролювати, ШІ системи можуть створити несподівані підцілі, що призводить до потенційно шкідливих результатів. Зусилля направлені на розвиток моральних ботів-співрозуміючих, які розуміють етичні принципи, покращуючи їхню безпеку та надійність.
Зростання ШІ також поставляє перед собою виклик у боротьбі із загрозами для кібербезпеки. Гінтон підкреслює ризики, пов’язані із відкритим джерелом моделей ШІ. Хоча відкрите джерело загалом корисне для розробки програмного забезпечення, моделі ШІ унікальні тим, що їхнє навчання визначається даними, що може призвести до непередбачуваних результатів. Кіберзлочинці можуть зловживати цим, використовуючи відкриті моделі та доопрацьовуючи їх для незаконних дій, таких як кіберзлочинність або фішингові атаки. Гінтон виступає проти відкриття великих моделей ШІ, оскільки це усуває необхідність для злочинців навчати свої власні моделі, зроблюючи кіберзагрози більш поширеними.
Продовжуючи прогрес ШІ, виникають турботи щодо можливої заміни робочих місць. Гінтон вказує, що рутинна інтелектуальна праця може зіткнутися з аналогічною долею рутинної фізичної праці з появою машин, що перевершують людські здатності. Хоча економісти розходяться в прогнозах, поява більш розумної структури створює невизначеності. Міжнародний валютний фонд попереджає, що ШІ може призвести до зменшення робочих місць на 40% та загострення нерівності.
Прогрес ШІ також породжує турботи про його роль у впливанні на демократичні процеси. Гінтон вказує на те, що досягнення у генерації фейкових зображень, відео та голосів можуть бути експлуатовані під час виборів, що потенційно порушить демократичний процес.
Хоча Гінтон спонукає до регулювання і обережного використання ШІ, він визнає, що тривають обговорення щодо його майбутнього. Баланс полягає в тому, щоб використовувати потенціал ШІ, мінімізуючи його ризики, забезпечуючи, що технологічні досягнення служать на благо людства.
Часто задають питання (ЧАП)
The source of the article is from the blog karacasanime.com.ve