Et nyligt incident, hvor Taylor Swifts billede blev brugt i en AI-genereret deepfake-video, har sat fokus på den bekymrende stigning i online svindel. Den falske video, der er blevet delt på sociale medieplatforme, viser Swift, der bakker op om en falsk Le Creuset-køkkengrej “giveaway” og opfordrer sine fans til at give deres bankoplysninger for at få en chance for at vinde køkkensætene.
Deepfake-klippet bruger en AI-genereret stemme, der lyder som Swift og siger: “Hej alle sammen, det er Taylor Swift her. På grund af en fejl i emballagen kan vi ikke sælge 3.000 Le Creuset-køkkengrejssæt. Så jeg giver dem væk til mine loyale fans gratis. Hvis du ser denne annonce, kan du få et gratis køkkengrejssæt i dag – men bare som en advarsel, er der nogle regler.” Fansene bliver derefter bedt om at indsende deres oplysninger i en formular under videoen og bliver bedt om at betale et mindre forsendelsesgebyr.
Desværre blev de personer, der gav deres kortoplysninger og betalte forsendelsesgebyret, efterfølgende ramt af gentagne gebyrer, som rapporteret af The New York Times. Det er uklart, hvem der står bag denne svindel, der blev postet i forskellige Facebook-grupper, før den hurtigt blev slettet.
Dette incident understreger den stigende bekymring vedrørende deepfake-videoer og potentialet for, at cyberkriminelle udnytter enkeltpersoner. Text-to-speech-platforme gør det nemt og billigt for kriminelle grupper at oprette disse vildledende videoer. De kan bruge AI-genererede stemmer og lip-sync-software til at skabe realistiske videoer, der er svære at skelne fra ægte indhold.
Ifølge en undersøgelse foretaget af McAfee har hver tolvte person i Storbritannien allerede været mål for cyberkriminelle, der bruger deepfake-videoer til at efterligne deres pårørende, og flertallet af ofrene har mistet penge som følge heraf. Undersøgelsen viste også, at 95% af folk ikke er i stand til at skelne mellem en falsk AI-genereret stemme og en ægte stemme.
Dette incident fungerer som en påmindelse om at være opmærksom og forsigtig, når man deltager i online-kampagner eller giveaways. Det er vigtigt at verificere ægtheden af sådanne påstande og kun give personlige oplysninger på betroede og officielle platforme.
The source of the article is from the blog jomfruland.net