דיווחים רבים מקרב סקטורים שונים הדגישו את האיומים המתפשטים הקשורים לבינה מלאכותית (AI), ואלו מתפשטים מעבר לדאגות שהובעו עד כה על ידי דמויות מעמק הסיליקון. הרשות הרגולציונית לתעשיית הפיננסים (FINRA) זיהתה את AI כ"סיכון עולה", בעוד שהפורום הכלכלי העולמי הסיכם כי האיום הקרוב ביותר לכלכלה העולמית הוא פער־מידע מונע על ידי AI.
גם המועצה לאיכות היציבות הפיננסית (FSOC) הביעה חששות לגבי AI וציינה את האיום הישיר על הצרכנים, ההחלטות המעופפות בהטיות ורסיסי עיצוב בלתי־זוהרים שיכולים לפרע במערכת הפיננסית. גארי גנסלר, יו"ר ועדת הניירות וההון (SEC), הביע חששות לגבי האיומים הקשורים ליציבות הפיננסית הנגרמים אז חברות השקעות מוסרות על AI כחלק מתהליך קבלת ההחלטות.
בכנס השנתי של הפורום הכלכלי העולמי, AI הפך לנושא מרכזי, עם בחינת האיומים וההשלכות לכלכלה העולמית. במבחן של הפורום בין עוסקים ומובילים בתחום בינתיים גילו כי חדשות מזוייפות ותעמולה שנוצרת בעזרת AI נתפסות כהימורי הסיכון הקרובים ביותר לכלכלה העולמית, במיוחד ביחס לבחירות הקרובות במדינות שונות.
הדאגות לגבי AI אינן מוגבלות לסקטור הפיננסי בלבד. בית המשפט העליון הכיר באיומים הקשורים לחדירה של AI פרטיות ולדהומנות בחוק. מומחים משפטיים חדהו לעשיית מילוי יתר ב־AI בניהול פיננסי, והעירו את הסיכון שלתפקודות לא כוויות ואת המגבלות של מערכות AI.
למרות כל ההזדמנויות ש-AI מציע לשיפור התקשורת עם הלקוחות ועם יעילות הפעולות בתעשיית השירותים הפיננסיים, קיימות דאגות לגבי ההחלטות המוטעות לגבי הלוואות ולגבי האפשרות לתסמן שוק ברת יותר במקרה שאותם המוסדות יימלטו על אותה מערכת AI שפגיעה.
ככל שתחום ה-AI מפשט ומתקדם יותר, חוקרים דואגים שמערכות מעוצבות בצורה רעה ואוטומציה "קופסת השחורות" יכול להוביל לשבירת כל האמון בין קונים ומוכרים. כמו כן, קיימת צורך בבדיקות מערכות AI כדי להבין את הכשלים האיפשוריים של מערכות אלו.
הדיון בנוגע לסיכוני AI הוא רב־ממדי, גם מחוץ לעמק הסיליקון, עם מוסכמות, מקצוענים משפטיים ומובילי הפיננסים הביעו את דאגותיהם. חיוני לפוליטיקאים, מקצוענים בעניין ולחוקרים לטפל באיומים העולים ולוודא כי AI ייפתח וייחוק בדרך שמענה לבטיחות, הגיוניות ושקיפות.
The source of the article is from the blog motopaddock.nl