Ein Winnipeg-lokalperson har føreslege å ikkje lita for mykje på kunstig intelligens for informasjonsverifisering etter å ha vore offer for svindel. Dave Gaudreau hamna i finansiell fare då han ringde det påståtte Facebook-støttenummeret, som var feilaktig verifisert av Metas AI som autentisk. Denne hendinga fremhever dei finansielle farene som AI-feil kan føre med seg.
Gaudreau trong hjelp til å overføre Facebook-appen til ein ny telefon. Ei nettsøkjing førte kona til han til eit nummer som var påstått å tilhøyre Facebooks kundeservice. Med tilliten til Meta sin AI-verktøy i Facebook Messenger, var Gaudreau trygg på å gå vidare. Verktøyet, som også blir testa på WhatsApp i utvalde område, svikta han på dette avgjerande tidspunktet.
Etter å ha ringt nummeret blei Dave instruert til å dele Facebook-innloggingsopplysningane sine og telefonnummeret sitt. Personen i andre enden overtydde han bedragerisk om at kontoen hans var kompromittert og oppmunda han til å laste ned ein app som skulle gi dei tilgang til telefonen hans. Under samtalen blei PayPal-kontoen hans infiltrert, og det blei forsøkt kjøpt ein $500 Apple-gavekort. Heldigvis klarte banken hans å blokkere eit ekstra forsøk på å kjøpe Bitcoin.
Etter at svindelen blei avdekt av kona til Gaudreau, kontakta paret raskt banken deira for å blokkere kort og starta svindelrapportar hos PayPal, Visa og kredittbyråa Equifax og TransUnion. Som ei vennskapeleg handling refunderte PayPal dei $500 som gjekk tapt i den svindelaktige transaksjonen.
Ein CBC-reporter som ringde same nummeret, møtte ein overbevisande svarande som utgav seg for å vere ein Meta-tilsett. Ytterlegare gransking avdekka likevel at det ikkje eksisterte nokon slik Meta-tilsett. Gaudreau sende inn ein klage til Meta, men fekk ingen tilbakemelding.
Meta erkjente manglane i AI-ens dekningsgrad og uttrykte deira forpliktelse til kontinuerleg forbetring. Prof. David Gerhard frå University of Manitoba råda til å ikkje stole for mykje på kunstige intelligensmodellar for faktakontroll, og samanlikna AI si oppførsel med ein svært intelligent barn som kan gi feil informasjon i staden for å innrømme at han ikkje veit. I tillegg blei det gjeve ei advarsel mot WhatsApp-nummer frå Sør-Afrika som oftast er knytt til svindelaktige jobbtilbod.