När världens största demokrati förbereder sig för sina kommande allmänna val växer oron över användningen av AI-genererade medier för att manipulera och lura väljare i Indien. Nyligen har delstatsval i landet sett en omfattande spridning av deepfakes och manipulerat innehåll, vilket väcker larm om hotet mot demokratin.
Politiska partier i Indien, inklusive det regerande Bharatiya Janata-partiet (BJP) och oppositionspartiet Congress, använder alltmer deepfakes för att påverka väljare. Dessa AI-genererade medier, som kan inkludera ljud- och videomanipulation, blir alltmer tillgängliga och prisvärda, med vissa verktyg tillgängliga för så lite som 10 cent per video.
BJP, känt för sin tekniska skicklighet, har en historia av att använda illusioner för sin kampanj. År 2014 användes hologramprojektioner av premiärminister Narendra Modi för att skapa illusionen av simultan kampanj i flera platser. Användningen av deepfakes har dock tagit dessa taktiker till en ny nivå av bedrägeri.
I en noterbar händelse blev en BJP-medlem av parlamentet en av världens första politiker att använda deepfakes för sin kampanj. Videor med politikern som vänder sig till väljare på olika språk skapades med hjälp av AI för att generera hans röst, ändra hans uttryck och manipulera hans läpprörelser. Deepfakes var så övertygande att det nästan var omöjligt att upptäcka deras falskhet vid visning.
Andra politiska partier har också omfamnat AI för sina kampanjstrategier. Dravida Munnetra Kazhagam (DMK) använde AI för att återuppliva ikoniska ledare M Karunanidhi från de döda, och presenterade realistiska videor av den tidigare politikern på kampanjhändelser.
Experter tror att användningen av deepfakes och AI-manipulationen endast kommer att öka i framtida val, vilket ger politiska partier möjlighet att forma berättelser och skapa uppfattningar i en ohärdad skala. Medan vissa AI-startups, som The Indian Deepfaker, använder tekniken lagligt och etiskt, finns det oro över spridningen av oetiska förfrågningar från politiska kampanjer.
Under nyligen ägda delstatsval registrerades fall med deepfake-videor som riktade sig mot högt uppsatta politiker. Privata konsultfirmor outsourcas ofta för att producera detta innehåll, som sedan sprids via sociala medieplattformar som WhatsApp. Användningen av vanliga medborgares nummer på WhatsApp lägger till en annan nivå av anonymitet till dessa kampanjer, vilket gör det svårt att spåra dem tillbaka till partierna, kandidaterna eller AI-företagen som är involverade.
När Indien förbereder sig för sina val 2024 blir den potentiella påverkan av AI-genererade medier på det politiska landskapet alltmer tydligt. Det är avgörande för myndigheterna att ta itu med denna fråga och införa åtgärder för att skydda demokratiprocessens integritet.
The source of the article is from the blog combopop.com.br