הסיכונים הצומחים של המודעות הבלתי טבעית (AI) ביציבות הכספית הם נושא דאגה, לדברי אולגה שצ'יפנסקה, מנהלת מחלקת יציבות פיננסית ב-NBP. היא הדגימה כי בהתבססן על נתונים היסטוריים בעיקר, אלגוריתמי AI חסרי הבנת המקרה וההגיון שבהם אדם יכול להפעיל על אותם מידע. סוג זה של למידה עשוי בצורה בלתי רצונית להרחיק התנהגות נחיתה בתוך שווקים פיננסיים אם ה-AI תגיב לעקיצות דומות לאלו בעבר, מדף רקציה רצופה.
ההשפעות על ההערכת סיכון במערכת הבנקאות הן גם נושא מעצבן. שצ'יפנסקה העירה כי מאחר ובנקים נועדו באופן מגבר להצהיר על פרופילי סיכון של לא רק לקוחות אישיים, אלא לפורטפוליו אשראי שלמים, קיים סיכוי כי המודלים הללו יוכלו לשכפל ולהגביר שגיאות עבר. הדגש שלה היה על הצורך בהשגחה אנושית, בעיקר בתהליך הקבלת ההחלטות, כדי להפחית את השגיאות הנפוצות של נטיע בקרב אני שערות ש-AI עשוי להעביר קדימה.
מהותו, גם על פי שה-AI יכול לשנות את התעשייה הפיננסית דרך יעילות ויכולת אנליטית מוגבלת, קיימת עדיין צורך ברור ברכיב האנושי להבטיח את היציבות והאמינות של מערכות מתפתחות אלו.