De Federal Trade Commission (FTC) zoekt innovatieve oplossingen om het groeiende gevaar van AI-stemkloons, ook bekend als audio deepfakes, aan te pakken. Om deelname te stimuleren, bieden ze een beloning van $25.000 voor de beste oplossing. De proliferatie van online diensten die eenvoudig te gebruiken stemkloongereedschap bieden, heeft bezorgdheid gewekt over mogelijk misbruik bij cyberaanvallen.
Een van de belangrijkste zorgen is de impersonatie van CEO’s om financiële afdelingen te misleiden om geld over te maken naar de rekeningen van de aanvallers. Dit soort fraude zou ook vrienden en familie kunnen misleiden om geld over te maken naar personen die zich voordoen als hun geliefden. Bovendien lopen de inkomens van uitvoerende kunstenaars gevaar als deze technologie blijft evolueren.
De FTC roept op tot inzendingen tot 12 januari die zich richten op preventie, monitoring en evaluatie van frauduleuze AI-stemkloons. Het doel is om consumenten, creatieve professionals en kleine bedrijven te beschermen tegen schade. Als er geen levensvatbare ideeën naar voren komen, kan dit dienen als een waarschuwing aan beleidsmakers over de noodzaak van strengere beperkingen op het gebruik van deze technologie.
Inzendingen worden beoordeeld op haalbaarheid, bestendigheid tegen technologische veranderingen, en overwegingen van aansprakelijkheid en verantwoordelijkheid. De hoofdprijs bedraagt $25.000, terwijl een runner-up $4.000 ontvangt, en drie eervolle vermeldingen elk beloond worden met $2.000. Bovendien ontvangen organisaties met 10 of meer leden een erkenning zonder geldelijke beloning.
AI-stemkloons zijn al effectief gebruikt in verschillende gevallen. Bijvoorbeeld, een Brits energiebedrijf verloor $243.000 toen zijn CEO werd misleid om geld over te maken naar een frauduleuze leverancier. Ook banken zijn het doelwit geweest en romantische oplichtingspraktijken zijn wijdverbreid geworden, waarbij criminelen beroemdheden en geliefden imiteren om slachtoffers te misleiden en geld afhandig te maken.
Om stemkloons uit te voeren, heeft een AI-model voldoende trainingsgegevens nodig om de nuances van iemands stem te begrijpen, waaronder toon, tempo en intonatie. Beroemdheden en bekende personen zijn bijzonder kwetsbaar vanwege de overvloed aan stemopnamen die online beschikbaar zijn. Zelfs niet-beroemdheden en kinderen hebben echter voldoende online materiaal om een model effectief te trainen.
Hoewel er vrij beschikbare stemkloongereedschappen zijn, genereren betaalde oplossingen zoals Microsoft’s VALL-E-model overtuigendere klonen. Deze technologieën bevinden zich nog in de beginfase van ontwikkeling en zullen naar verwachting in nauwkeurigheid en effectiviteit verbeteren in de loop van de tijd. Het beloningsinitiatief van de FTC heeft tot doel deze groeiende dreiging te bestrijden en individuen en bedrijven te beschermen tegen de schade veroorzaakt door AI-stemkloons.
The source of the article is from the blog shakirabrasil.info