Suzbijanje online mržnje i lažnih informacija uz pomoć AI tehnologije
Novi europski projekt, Hatedemics, pokrenut od strane Zaklade Bruno Kessler u Trentu, ima za cilj suzbijanje širenja govora mržnje i lažnih vijesti na društvenim mrežama razvijanjem platforme dostupne nevladinim organizacijama, novinarima, provjeriteljima činjenica, javnim vlastima i studentima. Marco Guerini, koordinator projekta i voditelj grupe za jezik i tehnologije dijaloga u Centru za povećanu inteligenciju na FBK-u, raspravljao je o online proliferaciji mržnje i lažnih informacija, objašnjavajući da algoritmi dizajnirani za prioritetizaciju visoko-utjecajnog sadržaja slučajno pojačavaju takav materijal zbog njegove emocionalne prirode.
Razumijevanje interakcije govora mržnje i dezinformacija
Govor mržnje i dezinformacije, koji su tradicionalno tretirani odvojeno, često su isprepleteni, stvarajući sivu zonu sadržaja koja zamagljuje granice između njih. Projekt Hatedemics teži ujedinjenju pristupa u borbi protiv ovih problema prepoznavanjem njihovog preklapanja. Primjeri gdje lažne povijesne naracije, poput onih koje bacaju sumnju na Holokaust, hrane diskriminacijske ideologije, ilustriraju potrebu za ovom ujedinjenom strategijom.
Napredak u suzbijanju online negativnosti
Adresirajući trenutne metode borbe protiv govora mržnje i lažnih vijesti, koje uključuju detekciju sadržaja i sankcije poput uklanjanja ili “shadow bannanja”, Guerini je naglasio ograničenja oslanjanja isključivo na analizu ključnih riječi. Umjesto toga, projekt će koristiti AI sustave obučene za razumijevanje konteksta izvan samih riječi, čime će se smanjiti lažni pozitivi i negativi.
Uloga umjetne inteligencije u Hatedemicsu
Hatedemics će koristiti AI ne radi cenzure, već kao alat za civilno društvo kako bi se konstruktivno angažirali s problematičnim sadržajem. Inovacija leži u spajanju ekspertize provjeritelja činjenica i operatera nevladinih organizacija kako bi se proizveli protuargumenti pomoću AI. To uključuje treniranje generativne AI s neuralnim mrežama otvorenog koda i stvaranje simuliranih dijaloga kako bi se sustav pripremio za stvarne interakcije online.
Povratak povjerenja u online sadržaj
Konačni cilj Hatedemicsa je obnoviti povjerenje u digitalni sadržaj podržavajući kritičko mišljenje putem AI alata. Stvaranjem AI jezičnih modela informiranih inicijativinim podacima, budući algoritmi bolje će se uskladiti s ljudskim vrijednostima, osiguravajući odgovarajuće odgovore na kompleksne fenomene koji izazivaju društvene mreže i online diskurs. Ovaj projekt obećava AI tehnologiju koja poboljšava, a ne zamjenjuje, ljudske odluke i promiče širenje znanja.
Ključna pitanja i odgovori:
– Što je projekt Hatedemics?
Projekt Hatedemics je inicijativa osmišljena za suzbijanje govora mržnje i dezinformacija na društvenim mrežama razvijanjem platforme za različite dionike poput nevladinih organizacija, novinara, provjeritelja činjenica i javnih vlasti, koristeći AI tehnologiju.
– S kojim se izazovima suočava projekt Hatedemics?
Ključni izazovi uključuju precizno identificiranje govora mržnje i dezinformacija bez kršenja slobode govora, upravljanje nijansama konteksta i različitim interpretacijama sadržaja, te osiguranje da se AI tehnologija ne zloupotrebljava ili da slučajno ne pojačava predrasude.
– Tko koordinira projekt Hatedemics?
Marco Guerini, voditelj grupe za jezik i tehnologije dijaloga u Centru za povećanu inteligenciju u Zakladi Bruno Kessler.
– Kako Hatedemics namjerava unaprijediti trenutne metode borbe protiv online negativnosti?
Projekt predlaže korištenje AI sustava obučenih za razumijevanje konteksta izvan ključnih riječi, pomažući u smanjenju broja lažnih pozitiva i negativa te konstruktivno angažiranje s problematičnim sadržajem.
– Koja je uloga umjetne inteligencije u projektu Hatedemics?
AI se koristi ne za cenzuru, već kao alat kako bi pomogao civilnom društvu konstruktivno se angažirati s problematičnim sadržajem putem protuargumenata i podržati kritičko mišljenje, čime se poboljšava pouzdanost online sadržaja.
Ključni izazovi ili kontroverze:
– Definiranje govora mržnje: Značajan izazov je jasno definiranje govora mržnje, što varira znatno između različitih kultura i pravnih okvira.
– Sloboda govora: Balansiranje uklanjanja štetnog sadržaja s zaštitom slobode govora je stalna kontroverza u suočavanju s online govorom mržnje i dezinformacijama.
– Algoritamske pristranosti: AI sustavi mogu kriti pristranosti iz svojih podataka za obuku ili algoritama, potencijalno perpetuirajući štetne stereotipe ili nepravde.
Prednosti i nedostaci korištenja AI u Hatedemicsu:
– Prednosti:
– AI može brže obraditi velike količine podataka od ljudi, pomažući u pravovremenom otkrivanju govora mržnje i dezinformacija.
– Razumijevajući kontekst, AI može smanjiti broj lažnih pozitiva, izbjegavajući cenzuru benignog sadržaja.
– Simulirani dijalozi i generiranje protuargumenata od strane AI mogu omogućiti suptilniji i informiraniji javni diskurs.
– Nedostaci:
– Mogućnost AI-a da interpretira kompleksnu ljudsku komunikaciju još je ograničena te može rezultirati pogreškama u identifikaciji štetnog sadržaja.
– Preveliko oslanjanje na AI može dovesti do smanjenja nadzora i odgovornosti ljudi.
– Postoji rizik da će AI biti manipuliran ili zloupotrijebljen od zlonamjernih aktera za širenje sofisticiranijih dezinformacija.
Prijedlozi povezanih linkova:
– Za više informacija o Zakladi Bruno Kessler, posjetite www.fbk.eu.
– Za informacije o AI i digitalnoj etici, Centar za etiku i inovacije podataka može pružiti uvide na www.cdei.uk.
– Više o presjecištu tehnologije, društva i politike može se pronaći na web stranici Europske inicijative za digitalna prava, www.edri.org.
Ovi resursi pružaju širi kontekst primjene AI u društvenim medijima, etička razmatranja i izradu politika vezanih uz digitalna prava te borbu protiv online govora mržnje i dezinformacija.