Midt i Indias avgjerande val, skapar AI-videohoax uro
Under den kritiske valperioden i India såg den digitale landskapet ein auka av forførande videoar som sprei seg over sosiale medium. I ein hending vart heimeminister Amit Shah feilaktig avbilda i ein video som hevda at regjeringa ville avskaffe positiv særbehandling – ein policy utforma for å avskaffe kastediskrimineringa. Videoen viste seg å være ein «billig falsking,» kunstig redigert frå gamal opptak.
Minimal AI-innblanding i valdisinformasjon
Sjølv om det er bekymringar om bruk av AI-genererte deepfakes for å leie veljarar på avvegar, har det blitt avdekka at det meste av villedande innhald ikkje utnytta sofistikert AI. Fakta-kontrollørar observerte at slike fabrikasjonar generelt vart laga med enkle verktøy. «Per no er det berre ein liten del av misinformasjonen som nyttar AI,» uttala Kiran Garimela, ein forskar som undersøker WhatsApp si rolle i informasjonsspreiing i India.
Metas forsøk på å redusere misinformasjon vurdert som utilstrekkeleg
Meta Platforms og X, tidlegare Twitter, har innført nye strategiar for å kjempe mot misinformasjon, men desse tiltaka synest å kome til kort. Metas Oversynsnemnd tilrådde ei oppdatering av innhaldspolitikken, no blir ulike typar misinformasjon tydeleg merkt. Til trass for dette har fakta-kontrollørar merka at mange videoar, inkludert ein redigert video som antyda at statsminister Narendra Modi støtta eit rivaliserande parti, framleis ikkje vert nøyaktig merka på Facebook.
X kæmper for å overvinne misinformasjon
I tillegg har X si innføring av ein fellesskapsnotatfunksjon for å tillate brukarbidrag til fakta-kontroll ikkje vore heilt vellykka. Motstridande bidrag fører oftast til meir forvirring, og undergraver systemets effektivitet. Eit liknande problem held fram på WhatsApp, der sjølv innhald som er identifisert som falskt, fortset å sirkulera breitt, noko som tyder på eit behov for forbetra innhaldsmoterasjon og bevisstgjering blant brukarar.
Nye initiativ i AI-generert innhaldsidentifisering
I vente på vala, starta Meta og Disinformasjonsbekjempingsalliansen ein rådgjevingslinje på WhatsApp for å takle AI-produsert desinformasjon, og understreka teknologiindustrien sin pågåande kamp med ansvarsfull handtering av brukargenerert innhald.
Fakta-kontrollørar kjempar mot falskt innhald under indiske val
Auka av falskt innhald under indiske val skapar store utfordringar for fakta-kontrollørar og teknologiplattformer. Fakta-kontroll blir avgjerande under indiske val, der falske nyheiter, spesielt gjennom videoar, kan påverke veljaroppfatninga og ha potensialet til å framkalle offentleg uro.
Viktige spørsmål og svar:
– Kor vesentleg er problemet med falske videoar under indiske val?
Problemet er omfattande, gitt India si store internettbrukarbase og den rolla sosiale medium spelar i forma den offentlege meininga. Falske videoar kan spre seg raskt og kan ha stor innverknad på velgaråtferd.
– Kva strategiar har sosiale medieselskap tatt i bruk for å motverke valmisinformasjon?
Selskap som Meta og X (tidlegare Twitter) har utarbeida retningslinjer for å flagge misinformasjon og introdusert fellesskapsdrevne fakta-kontrollfunksjonar. Likevel har effektiviteten av desse tiltaka blitt sett spørjeteikn ved.
– Kva utfordringar møter fakta-kontrollørar?
Utfordringar inkluderer volumet av innhald som må verifiserast, farten som misinformasjon kan spre seg med, avgrensa tilgang til visse sosiale medieplattformer og variert kvalitet på bidrag frå fellesskapsfakta-kontrollørar.
The source of the article is from the blog combopop.com.br