Потенційно негативний вплив хибної та вводячої в оману інформації, що спричиняється передовою штучним інтелектом (ШІ), був визнаний найважливішою загрозою для світової економіки, згідно з останнім доповіддю Всесвітнього економічного форуму “Доповідь про глобальні загрози 2024”.
Опублікована у середу, “Доповідь про глобальні загрози 2024” підкреслює небезпеки, пов’язані з інформацією, створеною ШІ та провокаціями, розташовуючи їх у рейтингу більш значущих ризиків, ніж зміна клімату, війна і економічна слабкість у списку десяти найбільших ризиків на наступні два роки. Доповідь, в якій було опитано експертів, лідерів галузі та політиків, показує, як просунуті технології поглиблюють існуючі проблеми та створюють нові.
Особливою проблемою є ШІ-чатботи, такі як ChatGPT, здатні генерувати складний синтетичний контент, що маніпулює людьми, не зважаючи на їхню експертизу. Звіт наголошує на необхідності негайно врегулювати цю проблему, особливо оскільки кілька країн підходять до виборів у наступні роки. Можливість використання ШІ для створення глибоких фейків та масштабних кампаній дезінформації може подальше поділити суспільства та підірвати демократичні процеси.
Кароліна Клінт, керівник з управління ризиками в компанії Marsh, попереджає, що прориви в ШІ дестабілізують перспективи ризику для організацій, і багато з них мають проблеми з реагуванням на загрози, випливаючі з дезінформації, дезінтермедіації та стратегічних помилок. Розбудова стійкості на організаційному, національному та міжнародному рівнях, а також розвиток співпраці між публічним та приватним секторами будуть ключовими при навігації цим стрімко змінюваним ризиковим ландшафтом.
Крім дезінформації, ШІ також створює занепокоєння з точки зору кібербезпеки. Автоматизація фішинг-атак та створення складних шкідливих програм допомагають ШІ, збільшуючи ризик кібератак. Крім того, ШІ може посилювати упередження шляхом забруднення даних, використовуваних для навчання інших систем ШІ, що ускладнює зворотний ефект.
Наслідки дезінформації та провокацій, створених ШІ, виходять за рамки соціальної поларизації та розколу в суспільстві. Сфабрикована інформація може бути використана для ставити під сумнів законність обраних урядів, що призводить до підриву демократичних процесів. Потенційна небезпека також поширюється на кібератаки, оскільки навіть ті, хто мають обмежену експертизу, можуть використовувати ШІ для здійснення зловмисної діяльності.
Ці серйозні ризики, зазначені в доповіді “Доповідь про глобальні загрози 2024”, будуть обговорені на надходящих зустрічах у Давосі, де будуть присутні лідери технологічних компаній і представники індустрії ШІ. Важливо спільно та активно вирішувати ці ризики для забезпечення безпеки глобальної економіки та відповідного розвитку та застосування технологій ШІ.
The source of the article is from the blog publicsectortravel.org.uk