I den komande valkampsesongen har spreiinga av desinformasjon blitt ei stor bekymring for enkeltpersonar som Jency Jacob, redaktør for BoomLive. Medan Jacob og teamet hans aktivt har arbeidd for å bekjempe falske nyheiter som blir spreiinga gjennom internett og sosiale media, har bruken av kunstig intelligens (AI) komplisert saka.
Eit av dei største utfordringane denne valkampsesongen er utnyttinga av nye teknologiar, som AI, av ulike aktørar. Under dei siste delstatsvala blei det brukt ein stor mengd klonede lydopptak generert av AI for å villeie veljarane. Ettersom teknologien blir meir avansert, blir det stadig vanskelegare å oppdage slik svindel.
I indisk samanheng har bruken av «billige forfalskingar» auka, men enno ikkje djupfalskingar. Jacob peikar på eit spesielt tilfelle der eit lyd- og videoklipp vart viralt i fjor. Klippet hadde ein forfalska voiceover av den kjende skodespelaren Amitabh Bachchan som stilte eit ærekrenkande spørsmål til ein deltakar i eit populært TV-show. Innhaldet var skadeleg sidan det framstilte dåverande statsminister i delstaten Madhya Pradesh, Shivraj Singh Chouhan, som ein kriminell. Til trass for anstrengingane for å bevise autentisiteten til klippet, hadde det allereie blitt sett og delt av millionar av menneske, noko som forårsaka betydeleg skade.
For å møte desse utfordringane samarbeider Jacob sitt team med desinformasjonsteamet hos Meta, som inkluderer Facebook, WhatsApp og Instagram. Dei arbeider for å identifisere djupfalskingar, men utfallet for flagga innhald er framleis usikkert. Google derimot, er ei frustrerande institusjon å handtere, sidan dei ikkje samarbeider og algoritmene deira er ugjennomsiktige.
Google benektar likevel påstandane om neglisjering av innhaldsmoderasjon. Dei hevdar at anbefalingssystemet deira er basert på prinsipp som har stått sin prøve. Selskapet påstår at systema deira kontinuerleg blir oppdaterte, og at innhaldsmoderasjon er ei kombinasjon av manuell og automatisert gjennomgang.
Som valkampsesongen nærmar seg, er det viktig å realistisk vurdere den potensielle spreiinga av desinformasjon. Tilfellene der innhald blir fjerna kan auke, og det kan bli press på teknologiselskapene om å fjerne upraktiske nyheitssaker. Medan Google kanskje motstandar slikt press, innrømmer ei tjenesteperson innanfor Google at etterspurnaden etter kontroll og undertrykking av informasjon aukar når politikarane er i makta.
Konklusjonen er at den nye teknologien som AI byr på, stiller store utfordringar i kampen mot desinformasjon under valkampsesongar. Til tross for innsatsen til enkeltpersonar som Jency Jacob, er spreiinga av falske nyheiter framleis ein bekymring, spesielt når mektige aktørar som Google ikkje kan samarbeide effektivt for å bekjempe dette problema.
The source of the article is from the blog hashtagsroom.com