Недавнее исследование, проведенное AI Impacts, показывает, что значительное число исследователей в области машинного обучения считает, что существует серьезный риск вымирания человечества в результате развития передовых систем искусственного интеллекта. Опрос, являющийся последующим к контроверзному исследованию 2016 года, показал, что между 37,8% и 51,4% опрошенных дали хотя бы 10% вероятности того, что ИИ приведет к последствиям, столь катастрофическим, как вымирание человечества.
Результаты вызывают сомнения в отношении доминирующих над связанным с ИИ риском вымирания. В отличие от существующих представлений, исследователи опрошенные в опросе не разделились на пессимистов и оптимистов. Многие из тех, кто признал возможность отрицательных последствий, также признали возможность положительных результатов. Отметим, что 57,8% опрошенных считали, что крайне неблагоприятные сценарии, такие как вымирание человечества, имеют вероятность, равную или большую 5%.
Критики опроса 2016 года ставили под сомнение достоверность результатов, предполагая, что исследователи могли подкрасить данные или что некоторые эксперты не уделили достаточного внимания данному вопросу. Однако, когда AI Impacts повторили опрос в 2022 году и связались с тысячами исследователей по машинному обучению, они получили аналогичные результаты. Медианная вероятность «крайне плохого» исхода, такого как вымирание человечества, оставалась на уровне 5%. Кроме того, когда вопрос рассматривался с разных точек зрения, чтобы смягчить эффект фрейминга, ответы последовательно попадали в диапазон от 5% до 10%, что укрепило доверие к данным.
Эти результаты подчеркивают растущую озабоченность потенциальными рисками, связанными с развитием передовой технологии искуственного интеллекта. По мере того, как системы ИИ продолжают развиваться и компании вкладывают значительные ресурсы в их разработку, перспектива появления ИИ на уровне человека, приводящего к последствиям, настолько серьезным, как вымирание человечества, уже не кажется фантастикой. Теперь крайне важно для экспертов в этой области дальше исследовать и обращаться с этими рисками, проводя более общий разговор, чтобы определить наиболее эффективные меры для смягчения возможного ущерба.
The source of the article is from the blog qhubo.com.ni