Roman RemberSpolečnost Federal Trade Commission (FTC) hledá inovativní řešení pro zvládání rostoucí hrozby AI klonování hlasu, známého také jako audio deepfakes. Jako pobídku k účasti nabízí nejlepšímu řešení odměnu ve výši 25 000 $ (asi 480 000 Kč). Růst online služeb, které poskytují jednoduše použitelné nástroje pro klonování hlasu, vyvolal obavy ohledně možného zneužití v kybernetických útocích.
Jedním z hlavních obav je zneužívání šéfů firem k tomu, aby finanční oddělení oklamali a přiměli je k převodu peněz na účty útočníků. Takový podvod by mohl také oklamat přátele a rodinu, aby poslali peníze jedincům, kteří se vydávají za jejich blízké. Navíc pokračující pokrok v této technologii ohrožuje obživu performéru.
FTC žádá o podání návrhů do 12. ledna, které se soustředí na prevenci, monitorování a hodnocení podvodu založeného na AI klonování hlasu. Cílem je ochránit spotřebitele, tvůrčí profesionály a malé podniky před škodami. Pokud se nepodaří získat realizovatelné nápady, může to být varováním pro tvůrce politiky o nutnosti stanovit přísnější limity pro použití této technologie.
Podání budou hodnocena na základě proveditelnosti, odolnosti vůči technologickým změnám a zohlednění odpovědnosti a zodpovědnosti. Hlavní cena činí 25 000 $ (asi 480 000 Kč), zatímco jeden finalist získá 4 000 $ (asi 77 000 Kč) a třem čestným zmínkám bude udělena odměna ve výši 2 000 $ (asi 38 000 Kč) každé. Dále organizace s alespoň 10 členy obdrží ocenění bezhotovostní odměnou.
Klonování hlasů pomocí AI již bylo efektivně použito v různých případech. Například britská energetická společnost přišla o 243 000 $, když byla její ředitelka oklamána do poslání peněz falešnému dodavateli. Banky jsou také cílem a podvodné románky se staly běžné, kdy zločinci napodobují celebrity a blízké osobnosti, aby obalamenili oběti, aby jim daly peníze.
Klonování hlasů vyžaduje od AI modelu dostatečná výuková data pro porozumění nuancím hlasu jednotlivce, včetně tónu, tempa a modulace. Celebrity a veřejní činitelé jsou zvláště zranitelní kvůli obrovskému množství hlasových záznamů dostupných online. Nicméně i ne-veřejné osobnosti a děti mají dostatek online materiálů pro efektivní výcvik modelu.
Zatímco jsou dostupné nástroje pro klonování hlasů zdarma, placená řešení, jako je model VALL-E od společnosti Microsoft, generují přesvědčivější klonované hlasy. Tyto technologie jsou stále ve stadiu raného vývoje a pravděpodobně se budou zlepšovat co do přesnosti a účinnosti. Iniciativa odměn FTC si klade za cíl bojovat proti této rostoucí hrozbě a chránit jednotlivce a podniky před škodami způsobenými klonováním hlasu pomocí AI.
