V oblasti finančných služieb získava umelej inteligencii (AI) na popularite, najmä pokiaľ ide o zvyšovanie efektívnosti a zlepšovanie výkonu zamestnancov. Napriek tomu však prieskum uskutočnený spoločnosťou Arizent odhalil, že 30 % vedúcich predstaviteľov finančných služieb stále zakazuje používanie nástrojov generatívnej AI vo svojich organizáciách. Tento konzervatívny prístup poukazuje na obavy týkajúce sa rizík a potenciálnych nedostatkov spojených s týmito aplikáciami umelej inteligencie.
Generatívna AI sa odkazuje na algoritmy, ktoré dokážu vytvoriť nový obsah a ich využitie v bankovníctve vyvolalo záujem aj obavy. Prieskum odhalil, že 20 % respondentov obmedzuje používanie gen AI na konkrétnych zamestnancov a funkcie, zatiaľ čo 15 % úplne zakázalo jeho použitie pre všetkých zamestnancov. Okrem toho uvažuje 26 % o implementácii politík na reguláciu jeho používania. Táto neistota vyplýva z jedinečnej povahy generatívnej AI, keďže neposkytuje konzistentné odpovede ako tradičné modely AI.
Nepredvídateľná povaha generatívnej AI je hlavným zdrojom obáv pre bankárov. Na rozdiel od iných aplikácií umelej inteligencie, ako je napríklad vyhľadávanie na Googli, ktoré fungujú na základe preddefinovaných pravidiel, generatívna AI sa spolieha na algoritmy, ktoré tvoria odpovede tvorivo. Táto nekonzistentnosť vzbudzuje otázky ohľadom presnosti a spoľahlivosti generovaných informácií.
Bankári tiež vyjadrujú obavy ohľadom dlhodobých rizík spojených s generatívnou AI. Nepresnosti, halucinácie a dezinformácie boli najčastejšie obavy uvedené 26 % respondentov. Strach z nesúvisiacich alebo nepresných informácií šírených medzi klientmi vyvoláva právne a regulačné obavy pre finančné inštitúcie.
Okrem toho je veľkým obavou nedostatok procesov kontrolujúcich fakty a overovanie obsahu vytvoreného generatívnou AI. Bez jasných informačných zdrojov sa zabezpečenie presnosti stáva náročným. To môže viesť k šíreniu chybných alebo zastaraných údajov, ktoré môžu ohroziť banky pri rozhodovaní na základe neinformovanosti.
Niektorí bankári sa obávajú, že generatívna AI môže viesť k poklesu kritického myslenia a kreativity. Obavy z strát jedinečných pohľadov a inteligentného jazyka, ktoré ľudia prinášajú do finančných služieb, sú zreteľné. Okrem toho obavy z strát pracovných miest a oslabenia osobných vzťahov s klientmi zosilňujú tieto obavy.
Ďalší problém, ktorý bankári uvádzajú, je únik citlivých dát. Prijeatie modelov generatívnej AI otvára možnosť sdílenia citlivých informácií mimo firemných bezpečnostných mechanizmov, čím sa zvyšujú obavy o bezpečnosť.
Často kladené otázky
Čo je generatívna AI?
Generatívna AI sa odkazuje na algoritmy, ktoré dokážu vytvoriť nový obsah alebo generovať kreatívne odpovede na základe poskytnutých vstupov.
Prečo niektoré finančné služby zakazujú používanie generatívnej AI?
Niektoré inštitúcie finančných služieb sú opatrné pri používaní generatívnej AI kvôli obavám o presnosť a spoľahlivosť generovaných informácií. Existujú aj obavy o potenciálne riziká spojené so šírením nesúvisiacich alebo nepresných údajov klientom.
Aké sú dlhodobé riziká generatívnej AI v bankovníctve?
K dlhodobým rizikám spojeným s generatívnou AI v bankovníctve patrí potenciálne nepresnosti, halucinácie a dezinformácie. Existujú tiež obavy o strate pracovných miest, oslabení osobných vzťahov s klientmi a úniku citlivých údajov.
Ako môžu banky riešiť obavy ohľadom generatívnej AI?
Na riešenie obáv ohľadom generatívnej AI by sa banky mali sústrediť na porozumenie a získavanie skúseností s týmito nástrojmi.
Hoci je zrejmé, že existujú riziká a obavy týkajúce sa používania generatívnej AI vo finančných službách, je dôležité uznať transformačný potenciál, ktorý ponúka. S vhodným dohľadom, mechanizmami overovania faktov a odborným školením môžu banky integrovať generatívnu AI do svojich prevádzkových procesov s cieľom podporiť inovácie a efektívnosť. Kľúč spočíva v dosiahnutí rovnováhy medzi využitím sily AI a zabezpečením spoľahlivosti a presnosti generovaných informácií.
Zdroje: arizent.com
The source of the article is from the blog reporterosdelsur.com.mx