Prodiranje umjetne inteligencije (AI) u kreiranje medija donijelo je eru u kojoj su sintetičke slike i videozapisi postali sve češći. Sa napretkom tehnologije AI, korisnici društvenih medija postaju zabrinuti zbog bujice lažnih vijesti koje se generiraju koristeći ovu tehnologiju. Ovi su strahovi opravdani, budući da lažni sadržaj može biti izuzetno zavaravajući i štetan.
Veliki fokus je stavljen na identifikaciju i suzbijanje širenja takvih lažnih informacija. Jedan od pristupa uključuje masovnu analizu sadržaja na platformama društvenih medija, kao što je ispitivanje slika, videozapisa i drugih multimedijalnih sadržaja. Michael Bronstein, poznati profesor na Sveučilištu u Luganu u Švicarskoj i Imperial College u Velikoj Britaniji, spomenuo je projekt nazvan GoodNews koji ima za cilj korištenje AI-a u otkrivanju lažnih vijesti. Međutim, ovaj sustav suočava se s izazovima, primjerice kada se susretne s enkriptiranim platformama poput WhatsApp-a gdje sadržaj ostaje nedostupan zbog protokola privatnosti, čime se otežava otkrivanje dezinformacija.
U nastojanjima da pomognu korisnicima razlikovati prave vijesti od lažnih, velike korporacije uključujući Meta i Alphabet poduzele su mjere za automatsko označavanje lažnog sadržaja na svojim platformama. Slično tome, AI temeljena alatka poput ChatGPT-a koristi se za pomoć u ovom procesu verifikacije. Tehnologije razvijene radi rješavanja ovog problema također uključuju aplikacije poput AI or not i platforme poput human ai, koje pomažu korisnicima u razlikovanju autentičnosti online sadržaja.
Dodatnu pomoć pruža aplikacija FakerFact, koja koristi algoritme za otkrivanje je li određeni sadržaj zasnovan na činjenicama ili je oblikovan kako bi izazvao emotivne reakcije. Dodatno, prikuplja povratne informacije korisnika o percipiranoj autentičnosti članaka, dopuštajući pristup vođen zajednicom u identifikaciji zavaravajućih informacija.
Prednosti suzbijanja lažnih vijesti pomoću AI-a:
– Prikladnost za skaliranje: AI sustavi mogu brzo analizirati ogromne količine podataka, što je bitno s obzirom na ogroman volumen sadržaja koji se svakodnevno generira online.
– Konzistentnost: AI može primijeniti iste standarde na svim analiziranim sadržajima, smanjujući pristranost i inkonzistentnosti koje bi mogle nastati s ljudskim moderatorima.
– Brzina: AI može brzo označiti potencijalno lažne vijesti u stvarnom vremenu, pomažući u sprječavanju širenja dezinformacija prije nego što postanu viralne.
– Mogućnost učenja: Vremenom, AI može učiti i prilagoditi se novim taktikama koje koriste nositelji lažnih vijesti, održavajući korak s lošim akterima koji stalno usavršavaju svoje metode.
Nedostaci suzbijanja lažnih vijesti pomoću AI-a:
– Nedostatak razumijevanja konteksta: AI se može boriti s razumijevanjem konteksta i nijansi, što može dovesti do lažnih pozitiva gdje se legitimni sadržaj označava ili lažnih negativa gdje sofisticirane lažne vijesti prolaze neotkrivene.
– Prilagodba od strane spamera: Kako se metode otkrivanja AI poboljšavaju, tako se i tehnike onih koji stvaraju lažne vijesti usavršavaju, vodeći do utrke u naoružanju između sustava otkrivanja i generatora dezinformacija.
– Pitanja o privatnosti podataka: Potreba za pristupom sadržaju AI sustava radi analize može izazvati zabrinutost zbog privatnosti korisnika i zaštite podataka.
– Ovisnost o podacima: AI sustavi zahtijevaju velike, raznovrsne skupove podataka kako bi učili učinkovito, a pristranost u tim skupovima podataka može rezultirati pristranim ocjenama AI-a.
Ključna pitanja i odgovori:
– Kako AI otkriva lažne vijesti? AI algoritmi obično analiziraju obrasce unutar sadržaja koji su indikativni za lažne vijesti, poput senzacionalističkog jezika, nekonzistentnih informacija kad se pretražuju kod pouzdanih izvora, te prepoznavanje slika kako bi se identificirale manipulirane slike ili dubinski izrađeni videozapisi.
– Može li AI potpuno eliminirati lažne vijesti? Ne, AI je alat koji pomaže u otkrivanju lažnih vijesti, ali nije nepogrešiv. Najbolje funkcionira u suradnji s ljudskim prosudbama, posebno za kompleksne zadatke poput razumijevanja nijansi dezinformacija.
Ključni izazovi i kontroverze:
– Postoji kontinuirana rasprava o ravnoteži između cenzure i slobode govora. Automatsko označavanje sadržaja kao lažnih vijesti od strane AI-a može suzbiti legitimne govore ako se pažljivo ne nadgleda.
– Transparentnost u tome kako AI modeli donose odluke predstavlja značajan izazov. Kritičari tvrde da bez razumijevanja zašto je određeni sadržaj označen, može biti teško povjerovati sustavu.
– Briga je o potencijalu za upotrebu AI sustava kako bi se suzbili određeni stavovi ili ciljali politički protivnici.
Za vjerodostojne izvore na širu temu AI i dezinformacija, razmislite o posjeti web stranicama organizacija i inicijativa koje su u središtu rješavanja ovih izazova:
– AI Global
– Partnership on AI
– DeepMind
– OpenAI
Molimo imajte na umu, ovi su linkovi pruženi kako bi uputili na organizacije poznate po svom radu u području AI-a, koje mogu pokrivati teme suzbijanja lažnih vijesti kao dio svog šireg dnevnog reda.
The source of the article is from the blog windowsvistamagazine.es