В света на финансовите услуги използването на изкуствен интелект (ИИ) набира популярност, особено като средство за повишаване на ефективността и подобряване на работата на служителите. Все пак, според проучване, проведено от Arizent, 30% от лидерите във финансовите услуги все още забраняват използването на генеративни инструменти на изкуствен интелект в своите организации. Този консервативен подход подчертава загрижеността относно рисковете и потенциалните недостатъци, свързани с тези приложения на ИИ.
Генеративната изкуствена интелигентност се отнася до алгоритми, които могат да създадат ново съдържание, което е предизвикателство и за вълнение в банковия сектор. Проучването показва, че 20% от участниците ограничават използването на генеративната изкуствена интелигентност само за определени служители и функции, а 15% са забранили напълно нейното използване за всички служители. Допълнително, 26% разглеждат възможността за въвеждане на политики за регулиране на нейното използване. Загрижеността идва от уникалния характер на генеративната ИИ, която не предоставя постоянни отговори като традиционните модели на ИИ.
Непредсказуемостта на генеративната ИИ е основната загриженост сред банкерите. За разлика от други приложения на ИИ, като Google търсене, които функционират на базата на предварително дефинирани правила, генеративната ИИ разчита на алгоритми, които създават отговори творчески. Този липса на консистентност поражда въпроси относно точността и надеждността на генерираната информация.
Банкерите изразяват загриженост и относно дългосрочните рискове, свързани с генеративната ИИ. Неточности, халюцинации и неправилна информация бяха основните загрижености, споменати от 26% от участниците. Страхът от несмислена или неточна информация, споделяна с клиенти, поражда правни и регулаторни проблеми за финансовите институции.
Освен това липсата на процеси за проверка на фактите и удостоверяване на съдържанието, създадено от генеративната ИИ, е основна загриженост. Без ясни източници на информация, осигуряването на точност става предизвикателство. Това може да доведе до разпространението на грешни или остарели данни, което поставя банките в риск да вземат неправилни решения.
Някои банкери също се страхуват, че генеративната ИИ може да доведе до намаляване на критичните мисловни умения и креативността. Загриженостите относно загубата на уникалните перспективи и интелигентния език, които хората допринасят за финансовите услуги, са широко разпространени. Освен това, загриженостите относно загубата на работни места и ослабването на личните взаимоотношения с клиентите подсилват тези тревожности.
Изтичането на чувствителни данни е друг проблем, повдигнат от банкерите. Въвеждането на модели на генеративна ИИ отваря възможността за споделяне на чувствителна информация извън защитната стена на организацията, увеличавайки загрижеността относно сигурността.
Често задавани въпроси
Какво е генеративната ИИ?
Генеративната ИИ се отнася до алгоритми, които могат да създадат ново съдържание или да генерират творчески отговори въз основа на подадени данни.
Защо някои финансови услуги забраняват използването на генеративната ИИ?
Някои институции в областта на финансовите услуги са предпазливи относно използването на генеративната ИИ поради загриженост относно точността и надеждността на генерираната информация. Съществуват също загрижености относно потенциалните рискове, свързани с разпространението на несмислена или неточна информация до клиентите.
Какви са дългосрочните рискове от генеративната ИИ в банкирането?
Дългосрочните рискове, свързани с генеративната ИИ в банкирането, включват потенциала за неточности, халюцинации и неправилна информация. Съществуват също загрижености относно загубата на работни места, ослабването на личните взаимоотношения с клиентите и изтичането на чувствителни данни.
Как могат банките да адресират загриженостите относно генеративната ИИ?
За да адресират загриженостите относно генеративната ИИ, банките трябва да се фокусират върху разбирането и придобиването на опит с тези инструменти.
The source of the article is from the blog exofeed.nl