Istraživanje rješenja za uznemiravanje u virtualnom svijetu: Julian Frommel i njegov tim započeli su misiju stvaranja poštovanja proživjetog okoliša unutar rastućeg svemira društvene proširene stvarnosti (XR). Sa ubitačnim grantom od 80.000 eura, njihovo istraživanje istražuje hitno pitanje uznemiravanja koje prati sve veću popularnost uronjenih virtualnih prostora, ne samo u igrama već i u profesionalnim postavkama i društvenim interakcijama.
U ovim digitalnim krajolicima, korisnička iskustva su omalovažena primjerima verbalnih napada, diskriminacije, prijetnji te čak kršenja osobnih granica putem neželjenog virtualnog kontakta. Specifična priroda uznemiravanja u XR-u je neviđena i odražava jedinstvene dinamike tih virtualnih zajednica.
Kako bi se riješio ovaj problem, trenutno su angažirani ljudski “moderatori” koji se bave pritužbama na takvo ponašanje. Njihova uloga je procijeniti valjanost svake pritužbe i, po potrebi, nametnuti sankcije koje uključuju mogućnost zabrane pojedincima pristup platformi.
Cilj Frommelovog projekta je poboljšati učinkovitost ovih moderatora uz pomoć umjetne inteligencije. Poučavajući modele AI-a razumijevanju suptilnosti ljudskih socijalnih interakcija, postat će moguće da ovi sustavi pomognu ljudskim nadzornicima. Napredno otkrivanje neprimjerenog ponašanja i pametno prioritetiziranje pritužbi samo su neki načini na koje AI može pružiti podršku, posebice kad se suočava s visokim brojem incidenata. Istraživanje ima potencijala za stvaranje sigurnijeg i uključivijeg virtualnog društvenog okvira za sve korisnike.
Najvažnija pitanja i odgovori:
P: Zašto se fokusirati na suzbijanje uznemiravanja u digitalnim područjima, posebno u XR okruženjima?
O: Kako virtualna stvarnost (VR) i proširena stvarnost (AR) – zajednički poznati kao proširena stvarnost (XR) – postaju sve zastupljeniji, broj ljudi koji interaktira unutar tih digitalnih prostora raste. Slično stvarnim interakcijama, virtualni okoliši također mogu manifestirati oblike uznemiravanja, koji se mogu kretati od verbalnog zlostavljanja do virtualnih predstava fizičke zastrašivanja. Rješavanje ovih problema ključno je za osiguravanje sigurnih i uključivih digitalnih prostora.
P: Kako bi AI mogao pomoći u moderiranju ovih internetskih prostora?
O: AI može nadopuniti ljudske moderatore automatskim prepoznavanjem obrazaca uznemiravanja, prioritetizacijom incidenata za pregled ili čak poduzimanjem odmah koraka kako bi se smanjila šteta (poput isključivanja zvuka ili razdvajanja korisnika). Nadalje, AI može raditi non-stop, obrađivati velike količine podataka i učiti iz prošlih incidenata kako bi unaprijedio buduće napore detekcije i prevencije.
P: Koje su glavne prepreke povezane s korištenjem AI-a za suzbijanje internetskog uznemiravanja?
O: Prepreke uključuju složenost razumijevanja prirodnog jezika, kulturnu i kontekstualnu nijansu, potencijalne pristranosti u AI sustavima, te mogućnost pretjeranog nadzora koji bi mogao sprječavati slobodan izražaj.
Kontroverze:
Jedna kontroverza je ravnoteža između učinkovite moderacije i cenzure, budući da neki korisnici mogu smatrati da snažna moderacija krši osobne slobode. Druga kontroverza leži u oslanjanju na AI, koji ne uvijek precizno može interpretirati ljudsko ponašanje, što može dovesti do nepravednih zabrana ili zanemarenih incidenata.
Prednosti i nedostaci:
Prednosti:
– AI može rukovati velikim količinama podataka i pružiti 24/7 moderaciju.
– AI može učiti i prilagoditi se novim oblicima uznemiravanja tijekom vremena.
– AI može pomoći u stvaranju sigurnijih okruženja bez prevelikih troškova ljudskog rada.
Nedostaci:
– AI možda neće potpuno shvatiti kontekst socijalnih interakcija i mogao bi pogrešno interpretirati neopasno ponašanje.
– Preveliko oslanjanje na AI može dovesti do zanemarivanja ljudskog elementa potrebnog za nijansiranu moderaciju.
– Postoje zabrinutosti o privatnosti i nadzoru kad AI prati socijalne interakcije.
Predložene poveznice:
– Za informacije o virtualnoj stvarnosti i proširenoj stvarnosti: The VR/AR Association
– O umjetnoj inteligenciji i etici u AI: AI Ethics Conference
– O online uznemiravanju i cyberbullyingu: Cyberbullying Research Center
– Za širu tematiku istraživanja u području AI: Association for the Advancement of Artificial Intelligence
The source of the article is from the blog be3.sk