Röstklonteknik har avancerat betydligt, med AI-genererade röster som blivit kusligt lika mänskliga röster. Denna teknik utnyttjades nyligen under Demokratiska partiets primärval i New Hampshire med deepfake-röstmeddelanden som uppmanade väljare att avstå från att rösta.
Rapporter tyder på att AI-tekniken potentiellt kan översvämma nätverk med deepfake-program designade för att lura och undergräva förtroendet, vilket utgör ett särskilt hot när AI-genererade röster utger sig för att vara politiska kandidater under val.
Som svar på dessa händelser finns det en ökande oro från Federal Communication Commission (FCC) ordförande Jessica Rosenworcel, som uppmanar stora telekommunikationsföretag som AT&T och Comcast att agera mot politiska AI-drivna automatiska samtal.
Rosenworcel betonade behovet av att bekämpa missbruket av AI-verktyg av skadliga aktörer och sa, ”När AI-tekniken blir allt tillgängligare för skurkar och bedragare måste vi göra allt inom vår makt för att hindra dessa hot från att nå våra nätverk.”
Även om ett förbud mot alla AI-drivna automatiska samtal, politiska eller andra, infördes i februari, har stora telekommunikationsföretag ännu inte meddelat några konkreta planer för att verkställa detta.
Märkbart ges delstatsåklagare auktoritet enligt detta mandat att åtala de inblandade i AI-drivna automatiska samtal.
Rosenworcel trycker även på att politiska kampanjer bör offentliggöra sin användning av AI i TV- och radioreklam, som avslöjades av US News & World Report. Emellertid har detta föreslagna initiativ mött motstånd från den republikanske ordföranden för FEC, Sean Cooksey, som hänvisar till bekymmer om potentiella rättsliga utmaningar.
AI Röstklonteknik: Hantering av centrala frågor och utmaningar
Uppkomsten av AI röstklonte…