I den kommende valgsæson er spredningen af misinformation blevet en stor bekymring for individer som Jency Jacob, chefredaktør for BoomLive. Mens Jacob og hans team aktivt har arbejdet på at bekæmpe falske nyheder spredt gennem internettet og sociale medier, har fremkomsten af kunstig intelligens (AI) kompliceret situationen.
En af de største udfordringer i denne valgsæson er brugen af nye teknologier, som AI, af forskellige parter. Under de seneste delstatsvalg var der en stigning i brugen af AI-genererede klonede lydbidder for at vildlede vælgere. Jo mere avanceret teknologien bliver, desto sværere bliver det at opdage sådan bedrag.
I indisk sammenhæng er der sket en stigning i brugen af “billige forfalskninger”, men endnu ikke dybe forfalskninger. Jacob fremhæver en specifik hændelse, der involverede et lydvideo klip, som blev viral sidste år. Klippet indeholdt en forfalsket voiceover af den berømte skuespiller Amitabh Bachchan, der stillede et ærekrænkende spørgsmål til en deltager i en populær tv-udsendelse. Indholdet var skadeligt, da det fremstillede den daværende delstatsminister Shivraj Singh Chouhan som en kriminel. På trods af bestræbelser på at bevise klippets ægthed, var det allerede blevet set og delt af millioner af mennesker, hvilket medførte betydelig skade.
For at imødegå disse udfordringer samarbejder Jacobs team med holdet for misinformation hos Meta, der omfatter Facebook, WhatsApp og Instagram. De arbejder på at identificere dybe forfalskninger, selvom skæbnen for markeret indhold stadig er usikker. Google er derimod en frustrerende enhed at håndtere, da de ikke samarbejder, og deres algoritmer forbliver uigennemsigtige.
Google benægter dog påstande om forsømmelse af indholdsmoderation. De hævder, at deres anbefalingssystem er baseret på principper, der har stået tidens prøve. Virksomheden fastholder, at deres systemer løbende opdateres, og at indholdsmoderation er en kombination af både manuelle og automatiserede gennemgangssystemer.
Når valgsæsonen nærmer sig, er det vigtigt at vurdere realistisk potentialet for spredning af misinformation. Antallet af krav om fjernelse af indhold kan stige, og der kan være pres på teknologivirksomheder for at fjerne upassende nyhedsartikler. Mens Google måske modstår sådanne pres, anerkender en højtstående insider hos Google, at efterspørgslen efter kontrol og undertrykkelse af information stiger, når politikerne er ved magten.
Til sidst udgør fremkomsten af nye teknologier som AI betydelige udfordringer i kampen mod misinformation under valgsæsonerne. På trods af indsatsen fra enkeltpersoner som Jency Jacob er spredningen af falske nyheder stadig en bekymring, især når magtfulde enheder som Google ikke effektivt kan samarbejde om at bekæmpe dette problem.
The source of the article is from the blog zaman.co.at