В мире финансовых услуг искусственный интеллект (ИИ) набирает обороты, особенно в повышении эффективности и улучшении производительности сотрудников. Однако, согласно опросу, проведенному компанией Arizent, 30% лидеров финансовых услуг все еще запрещают использование генеративных инструментов ИИ в своих организациях. Такой консервативный подход подчеркивает опасения относительно рисков и потенциальных недостатков, связанных с этими приложениями ИИ.
Генеративный ИИ, который относится к алгоритмам, способным создавать новый контент, вызвал как радость, так и опасения в банковской индустрии. Опрос показал, что 20% респондентов ограничивают использование генеративного ИИ для определенных сотрудников и функций, в то время как 15% полностью запретили его использование для всех сотрудников. Кроме того, 26% рассматривают введение политик для регулирования его использования. Опасения вызваны уникальным характером генеративного ИИ, который не предоставляет консистентных ответов, как традиционные модели ИИ.
Прерывистый характер генеративного ИИ вызывает серьезные опасения у банкиров. В отличие от других приложений ИИ, таких как поиск Google, которые работают на основе заранее определенных правил, генеративный ИИ полагается на алгоритмы, которые творчески генерируют ответы. Этот фактор отсутствия непрерывности вызывает вопросы о точности и надежности созданной информации.
Банкиры также выражают опасения относительно долгосрочных рисков, связанных с генеративным ИИ. Точность, галлюцинации и дезинформация были главными опасениями, высказанными 26% респондентов. Страх перед бессмысленной или неточной информацией, передаваемой клиентам, вызывает правовые и регуляторные заботы для финансовых учреждений.
Более того, отсутствие процессов проверки фактов и верификации содержимого, созданного генеративным ИИ, вызывает серьезные беспокойства. Без четких источников информации обеспечение точности становится сложной задачей. Это может привести к распространению ошибочных или устаревших данных, ставя банки в опасность совершения недальновидных решений.
Некоторые банкиры также боятся, что генеративный ИИ может привести к снижению критического мышления и креативности. Беспокойства относительно потери уникальных перспектив и интеллектуального языка, которые люди вносят в финансовые услуги, присутствуют. Кроме того, опасения относительно потери рабочих мест и ослабления личных отношений с клиентами усугубляют эти беспокойства.
Еще одной проблемой, выдвинутой банкирами, является утечка чувствительных данных. Внедрение моделей генеративного ИИ открывает возможность для передачи чувствительной информации за пределы брандмауэра организации, усиливая опасения по поводу безопасности.
Часто задаваемые вопросы
Что такое генеративный искусственный интеллект?
Генеративный ИИ относится к алгоритмам, которые могут создавать новый контент или генерировать креативные ответы на основе входных данных.
Почему некоторые финансовые учреждения запрещают использование генеративного ИИ?
Некоторые финансовые учреждения осторожны относительно использования генеративного ИИ из-за опасений о точности и надежности созданной информации. Существуют также опасения относительно потенциальных рисков, связанных с распространением бессмысленной или неточной информации клиентам.
Каковы долгосрочные риски генеративного ИИ в банковской сфере?
Долгосрочные риски генеративного ИИ в банковской сфере включают в себя потенциал для неточностей, галлюцинаций и дезинформации. Имеются также опасения относительно потери рабочих мест, ослабления личных отношений с клиентами и утечки чувствительных данных.
Как банки могут решить опасения, связанные с генеративным ИИ?
Для решения опасений относительно генеративного ИИ банки должны сосредоточиться на понимании и накоплении опыта с этими инструментами.
Хотя ясно, что существуют риски и сдержанность вокруг использования генеративного ИИ в финансовых услугах, важно признать его потенциал трансформации. С должным контролем, механизмами проверки фактов и обучением банки могут интегрировать генеративный ИИ в свою деятельность для стимулирования инноваций и эффективности. Ключ к успеху заключается в нахождении баланса между использованием силы ИИ и обеспечением надежности и точности создаваемой информации.
The source of the article is from the blog lisboatv.pt