Federal Trade Commission (FTC) söker innovativa lösningar för att hantera det växande hotet från AI röstkloning, även känt som ljud-djupfakes. För att sporra deltagande erbjuder de en belöning på $25,000 till den bästa lösningen. Den ökade spridningen av onlinetjänster som erbjuder enkla verktyg för röstkloning har väckt oro för potentiell missbruk i cyberattacker.
En av de mest oroande aspekterna är imitationen av VD:ar för att lura finansavdelningar att överföra pengar till angriparens konton. Denna typ av bedrägeri kan också lura vänner och familjemedlemmar att skicka pengar till personer som utger sig för att vara deras nära och kära. Dessutom riskerar upphovsmännen till konstnärliga framträdanden sina försörjningar om denna teknologi fortsätter att utvecklas.
FTC uppmanar till att skicka in bidrag fram till den 12 januari som fokuserar på förebyggande, övervakning och utvärdering av bedrägeri med AI-baserad röstkloning. Målet är att skydda konsumenter, kreativa yrkesverksamma och småföretag från skada. Om genomförbara idéer inte framträder kan det fungera som en varning till beslutsfattare om behovet av strängare gränser för användningen av denna teknologi.
Bidrag kommer att utvärderas baserat på genomförbarhet, motståndskraft mot tekniska förändringar och överväganden av ansvar och ansvarsfrågor. Första priset är $25,000, medan den som kommer på andra plats får $4,000, och tre hedersomnämnanden kommer att belönas med $2,000 vardera. Dessutom kommer organisationer med 10 eller fler medlemmar att få ett erkännande utan kontantbelöning.
AI-röstkloning har redan använts effektivt i olika fall. Till exempel förlorade ett brittiskt energibolag $243,000 när dess VD lurades att skicka pengar till en bedragare. Banker har också blivit måltavlor, och romansbedrägerier har blivit vanliga där brottslingar efterliknar kändisar och nära och kära för att lura offer att ge dem pengar.
För att utföra röstkloning kräver en AI-modell tillräckligt med träningsdata för att förstå nyanserna i en individs röst, inklusive tonhöjd, tempo och inflektion. Kändisar och offentliga personer är särskilt sårbara med tanke på den mängd röstinspelningar som finns tillgängliga online. Dock har även icke-kändisar och barn tillräckligt med material online för att effektivt träna en modell.
Även om det finns kostnadsfria verktyg för röstkloning, genererar betalda lösningar som Microsofts VALL-E-modell mer övertygande kloner. Dessa teknologier befinner sig fortfarande i de tidiga utvecklingsstadierna och förväntas bli mer exakta och effektiva över tiden. FTC:s belöningsinitiativ syftar till att bekämpa detta växande hot och skydda individer och företag från den skada som orsakas av AI röstkloning.
The source of the article is from the blog windowsvistamagazine.es