Lokálny obyvateľ Winnipegu varoval pred spoliehaním sa na umelej inteligencii pre overovanie informácií po tom, čo sa stal obeťou podvodu. Dave Gaudreau sa ocitol v finančných problémoch, keď volal na domnelú linku podpory Facebooku, ktorá bola chybne overená umelej inteligenciou Meta ako autentická. Tento prípad poukazuje na finančné nebezpečenstvá, ktoré môžu vzniknúť v prípade zlyhaní AI.
Gaudreau potreboval pomoc pri prenose svojej aplikácie Facebook na nový telefón. Online vyhľadávanie priviedlo jeho manželku k číslu, údajne patriacemu zákazníckej podpore Facebooku. Dôverujúc potvrdeniu od Meta AI nástroja v rámci Facebook Messenger, Gaudreau sa cítil istý, že môže pokračovať. Nástroj, ktorý sa momentálne testuje aj na WhatsApp vo vybraných oblastiach, mu v tomto kritickom bode zlyhal.
Pri kontakte s daným číslom Dave bol vyzvaný, aby zdieľal svoje prihlasovacie údaje na Facebook a svoje telefónne číslo. Hovoriaci na druhej strane telefónu ho potom podvodne presvedčil, že jeho účet bol ohrozený, a pobádal ho, aby si stiahol aplikáciu, ktorá by im umožnila prístup k jeho telefónu. Počas tohto hovoru bola jeho PayPal účtu narušená a pokus o nákup karty s hodnotou 500 dolárov od značky Apple bol urobený. Našťastie jeho bankový ústav bol schopný blokovať ďalší pokus o nákup Bitcoinu.
Po odhalení podvodu manželkou Gaudreau párik rýchlo kontaktoval svoju banku, aby zablokoval platobné karty a spustil správy o podvode s PayPalom, Visou a kreditnými agentúrami Equifax a TransUnion. PayPal následne vrátil 500 dolárov stratených pri podvodnej transakcii.
Reportér CBC, ktorý volal na tú istú linku, sa stretol s presvedčivým respondentom predstierajúcim Meta zamestnanca. Ďalšie preskúmanie však odhalilo, že žiadny takýto zamestnanec od Meta neexistoval. Gaudreau podal sťažnosť na Meta, ale nedostal žiadne potvrdenie.
Meta uznala nedostatok presnosti ich AI a prejavila svoj záväzok k neustálemu zlepšovaniu. Profesor David Gerhard z Univerzity v Manitobe odporučil vyhnúť sa prílišnému spoliehaniu na umele inteligentné modely pre overovanie faktov a prirovnané správanie AI k správaniu veľmi inteligentného dieťaťa, ktoré môže poskytnúť nesprávne informácie namiesto toho, aby priznalo, že niečo nevie. Okrem toho bola vydána výstraha v súvislosti s WhatsApp číslami zo Južnej Afriky, ktoré sú často spojené s podvodnými ponukami zamestnania.
The source of the article is from the blog kunsthuisoaleer.nl