Recente rapporten uit verschillende sectoren hebben de opkomende risico’s benadrukt die gepaard gaan met kunstmatige intelligentie (AI) en die verder gaan dan de zorgen die eerder zijn geuit door figuren uit Silicon Valley. De Financial Industry Regulatory Authority (FINRA) heeft AI geïdentificeerd als een “opkomend risico”, terwijl het World Economic Forum heeft geconcludeerd dat de grootste bedreiging op korte termijn voor de wereldeconomie desinformatie is die wordt aangedreven door AI.
De Financial Stability Oversight Council (FSOC) heeft ook bezorgdheid geuit over AI, waarbij mogelijke directe consumentenschade, bevooroordeelde beslissingen en onopgemerkte ontwerpfouten die het financiële systeem kunnen verstoren genoemd worden. Gary Gensler, de voorzitter van de Securities and Exchange Commission (SEC), heeft zijn zorgen geuit over de risico’s voor de financiële stabiliteit die worden veroorzaakt door beleggingsmaatschappijen die vertrouwen op AI-modellen voor besluitvorming.
Tijdens de jaarlijkse conferentie van het World Economic Forum is AI een centraal thema geworden, met discussies over de risico’s en implicaties voor de wereldeconomie. Het onderzoek van het forum onder beleidsmakers en brancheleiders heeft aangetoond dat nepnieuws en AI-generateerde propaganda worden gezien als de grootste risico’s op korte termijn voor de wereldeconomie, met name met het oog op komende verkiezingen in verschillende landen.
De zorgen over AI beperken zich niet tot de financiële sector. Het Hooggerechtshof heeft de risico’s erkend die gepaard gaan met de inbreuk op de privacy door AI en de dehumanisering van de wet. Juridische experts waarschuwen tegen overmatig vertrouwen op AI bij het beheer van financiën, waarbij ze wijzen op het potentieel voor onbedoelde gevolgen en de beperkingen van AI-systemen.
Hoewel AI kansen biedt om klantcommunicatie en operationele efficiëntie in de financiële dienstverlening te verbeteren, zijn er zorgen over bevooroordeelde leningbeslissingen en de mogelijkheid van een marktcrash als meerdere instellingen vertrouwen op hetzelfde gebrekkige AI-systeem.
Naarmate AI complexer en capabeler wordt, maken experts zich zorgen dat slecht ontworpen systemen en “black box” -automatisering kunnen leiden tot een vertrouwensbreuk tussen kopers en verkopers. Bovendien is er behoefte aan stresstests van AI-systemen om hun potentiële tekortkomingen te begrijpen.
Het debat over de risico’s van AI wint aan populariteit buiten Silicon Valley, waarbij toezichthouders, juridische professionals en leiders in de financiële sector hun zorgen uiten. Het is van cruciaal belang dat beleidsmakers, professionals in de sector en onderzoekers deze opkomende risico’s aanpakken en ervoor zorgen dat AI wordt ontwikkeld en gereguleerd op een manier waarbij veiligheid, eerlijkheid en transparantie worden gewaarborgd.
The source of the article is from the blog japan-pc.jp