FTC nabízí odměnu za řešení boje proti klonování hlasu pomocí AI

Společnost Federal Trade Commission (FTC) hledá inovativní řešení pro zvládání rostoucí hrozby AI klonování hlasu, známého také jako audio deepfakes. Jako pobídku k účasti nabízí nejlepšímu řešení odměnu ve výši 25 000 $ (asi 480 000 Kč). Růst online služeb, které poskytují jednoduše použitelné nástroje pro klonování hlasu, vyvolal obavy ohledně možného zneužití v kybernetických útocích.

Jedním z hlavních obav je zneužívání šéfů firem k tomu, aby finanční oddělení oklamali a přiměli je k převodu peněz na účty útočníků. Takový podvod by mohl také oklamat přátele a rodinu, aby poslali peníze jedincům, kteří se vydávají za jejich blízké. Navíc pokračující pokrok v této technologii ohrožuje obživu performéru.

FTC žádá o podání návrhů do 12. ledna, které se soustředí na prevenci, monitorování a hodnocení podvodu založeného na AI klonování hlasu. Cílem je ochránit spotřebitele, tvůrčí profesionály a malé podniky před škodami. Pokud se nepodaří získat realizovatelné nápady, může to být varováním pro tvůrce politiky o nutnosti stanovit přísnější limity pro použití této technologie.

Podání budou hodnocena na základě proveditelnosti, odolnosti vůči technologickým změnám a zohlednění odpovědnosti a zodpovědnosti. Hlavní cena činí 25 000 $ (asi 480 000 Kč), zatímco jeden finalist získá 4 000 $ (asi 77 000 Kč) a třem čestným zmínkám bude udělena odměna ve výši 2 000 $ (asi 38 000 Kč) každé. Dále organizace s alespoň 10 členy obdrží ocenění bezhotovostní odměnou.

Klonování hlasů pomocí AI již bylo efektivně použito v různých případech. Například britská energetická společnost přišla o 243 000 $, když byla její ředitelka oklamána do poslání peněz falešnému dodavateli. Banky jsou také cílem a podvodné románky se staly běžné, kdy zločinci napodobují celebrity a blízké osobnosti, aby obalamenili oběti, aby jim daly peníze.

Klonování hlasů vyžaduje od AI modelu dostatečná výuková data pro porozumění nuancím hlasu jednotlivce, včetně tónu, tempa a modulace. Celebrity a veřejní činitelé jsou zvláště zranitelní kvůli obrovskému množství hlasových záznamů dostupných online. Nicméně i ne-veřejné osobnosti a děti mají dostatek online materiálů pro efektivní výcvik modelu.

Zatímco jsou dostupné nástroje pro klonování hlasů zdarma, placená řešení, jako je model VALL-E od společnosti Microsoft, generují přesvědčivější klonované hlasy. Tyto technologie jsou stále ve stadiu raného vývoje a pravděpodobně se budou zlepšovat co do přesnosti a účinnosti. Iniciativa odměn FTC si klade za cíl bojovat proti této rostoucí hrozbě a chránit jednotlivce a podniky před škodami způsobenými klonováním hlasu pomocí AI.

Privacy policy
Contact