Потенциально разрушительное влияние ложной и вводящей в заблуждение информации, создаваемой с помощью развитого искусственного интеллекта (ИИ), было выявлено как главный риск для мировой экономики, согласно последнему докладу Всемирного экономического форума по глобальным рискам (Global Risks Report).
Опубликованный в среду отчет «Global Risks Report 2024» подчеркивает опасности, связанные с ИИ-генерируемой дезинформацией и ложной информацией, ранжируя их как более значительные риски, чем изменение климата, война и экономическая слабость, в списке из десяти главных рисков на ближайшие два года. Отчет, в котором были опрошены эксперты, представители отрасли и политики, показывает, как технологические достижения усугубляют существующие проблемы и создают новые.
Особенно озабоченность вызывают ИИ-чат-боты, такие как ChatGPT, способные генерировать сложное синтетическое контент, манипулирующее пользователи без учета их экспертизы. В отчете подчеркивается срочная необходимость решения этой проблемы, особенно в свете предстоящих выборов в нескольких странах в ближайшие годы. Возможность использования ИИ для создания дипфейков и информационных кампаний большого масштаба может еще больше разделить общества и подорвать демократические процессы.
Каролина Клинт, руководитель по управлению рисками в Marsh, предупреждает, что прорывные достижения в области ИИ снизят перспективы риска для организаций, многие из которых борются с реагированием на угрозы, связанные с дезинформацией, дезинтермедиацией и стратегическими ошибками. Важно развивать устойчивость на организационном, национальном и международном уровнях, а также способствовать большему сотрудничеству между общественным и частным секторами для навигации по этому быстро развивающемуся рисковому ландшафту.
Помимо дезинформации, ИИ также представляет проблемы в области кибербезопасности. Автоматизация попыток рыболовства и создание сложного вредоносного программного обеспечения облегчаются с помощью ИИ, что увеличивает риск кибератак. Кроме того, ИИ может усугубить предвзятость, загрязняя данные, используемые для обучения других систем ИИ, что делает изначальные эффекты крайне сложными для обращения.
Последствиями дезинформации, созданной с помощью ИИ, являются не только социальная поляризация и разделение общества. Ложная информация может быть использована для подрыва легитимности избранных правительств и привести к разрушению демократических процессов. Опасности также распространяются на кибератаки, так как даже те, у кого ограниченные знания, могут использовать ИИ для вредоносных действий.
Эти серьезные риски, выявленные в Global Risks Report 2024, будут обсуждаться во время предстоящих встреч в Давосе, где присутствуют лидеры технологических компаний и отрасли искусственного интеллекта. Необходимо совместно и активно решать эти риски, чтобы обеспечить защиту мировой экономики и гарантировать ответственное развитие и применение технологий искусственного интеллекта.
The source of the article is from the blog macnifico.pt