Preskúmanie riešení pre obťažovanie vo virtuálnom svete: Julian Frommel a jeho tím sa vydali na misiu vytvoriť rešpektnejšie prostredie v rozrastajúcej sa vesmírnej oblasti sociálnej rozšírenej reality (XR). S pôžičkou vo výške 80 000 eur sa ich výskum zameriava na naliehavý problém obťažovania, ktorý sprevádza rastúcu popularitu imerzívnych virtuálnych priestorov, nielen v hrách, ale aj v profesionálnych prostrediach a sociálnych interakciách.
V týchto digitálnych krajinách sú užívateľské skúsenosti kazene prípadmi verbálneho napádania, diskriminácie, hrozieb a dokonca aj zasahovania do osobných hraníc prostredníctvom nežiaduceho virtuálneho kontaktu. Špecifický charakter obťažovania v XR je bezprecedentný a odzrkadľuje jedinečné dynamiky týchto virtuálnych komunít.
Na boj proti tomuto problému sú momentálne nasadení ľudskí „moderátori“, ktorých úlohou je zaoberať sa sťažnosťami na takéto správanie. Ich úlohou je vyhodnotiť platnosť každej sťažnosti a v prípade potreby udeliť sankcie, ktoré môžu zahŕňať zakázanie páchateľov z platformy.
Cieľom projektu Frommela je zvýšiť efektívnosť týchto moderátorov pomocou umelej inteligencie. Učením modelov umelej inteligencie porozumieť jemnostiam ľudských sociálnych interakcií bude možné, aby tieto systémy pomáhali ľudským dohľadcom. Pokročilé zistenie nevhodného správania a inteligentné prioritizovanie stiesnených sťažností sú len niektoré spôsoby, akými môže AI ponúknuť podporu, najmä keď sa stretne s vysokým počtom incidentov. Výskum má potenciál vytvoriť bezpečnejšiu a inkluzívnejšiu virtuálnu sociálnu sféru pre všetkých užívateľov.
Najdôležitejšie otázky a odpovede:
O: Prečo je zameranie na boj proti obťažovaniu v digitálnych priestoroch, najmä v XR prostrediach?
O: Keďže virtuálna realita (VR) a rozšírená realita (AR)—spoločne známe ako rozšírená realita (XR)—sa stávajú čoraz bežnejšími, počet ľudí interagujúcich v týchto digitálnych priestoroch rastie. Podobne ako v reálnych interakciách, virtuálne prostredia môžu tiež prejaviť formy obťažovania, ktoré sa môžu pohybovať od verbálneho znevažovania po virtuálne prejavy fyzickej zastrašovania. Adresovanie týchto problémov je kľúčové pre zabezpečenie bezpečných a inkluzívnych digitálnych priestorov.
O: Ako môže AI pomôcť pri moderovaní týchto online priestorov?
O: AI môže doplniť ľudských moderátorov automatickým zisťovaním vzorov obťažovania, prioritizáciou incidentov pre preskúmanie alebo dokonca prijatím okamžitých krokov na minimalizovanie škody (ako je stíšenie alebo oddelenie užívateľov). Okrem toho AI môže pracovať nepretržite, zvládať veľké objemy údajov a učiť sa z minulých incidentov na zlepšenie budúcich úspešných detekčných a preventívnych snáh.
O: Aké sú hlavné výzvy spojené s používaním AI na boj proti online obťažovaniu?
O: Medzi výzvy patrí komplexnosť pochopenia prirodzeného jazyka, kultúrne a kontextuálne nuansy, potenciálne predsudky v systémoch AI a možnosť nadmerného policejného zasahovania, ktoré môže potlačiť slobodu prejavu.
Kontroverzie:
Jednou kontroverziou je rovnováha medzi efektívnym moderovaním a cenzúrou, keďže niektorí užívatelia môžu pociťovať, že dôkladný dohľad porušuje osobné slobody. Ďalšia kontroverzia spočíva v závislosti na AI, ktorá nemusí vždy presne interpretovať ľudské správanie, čo môže viesť k nespravodlivým zakázaniam alebo prehliadnutým incidentom.
Výhody a nevýhody:
Výhody:
– AI môže zvládnuť veľké objemy údajov a poskytnúť moderovanie 24/7.
– AI sa môže učiť a prispôsobiť sa novým formám obťažovania v priebehu času.
– AI môže pomôcť vytvoriť bezpečné prostredia bez nadmerných nákladov na ľudskú prácu.
Nevýhody:
– AI nemusí úplne pochopiť kontext sociálnych interakcií a môže zle interpretovať neškodné správanie.
– Prílišná závislosť na AI by mohla viesť k zanedbaniu ľudského prvku nevyhnutného pre nuansované moderovanie.
– Existujú obavy o súkromie a dohľad, keď AI monitoruje sociálne interakcie.
Navrhované súvisiace odkazy:
– Pre informácie o virtuálnej realite a rozšírenej realite: The VR/AR Association
– Pre umelej inteligencii a etické otázky v oblasti AI: AI Ethics Conference
– O online obťažovaní a kyberšikanovaní: Cyberbullying Research Center
– Pre širšie témy vo výskume AI: Association for the Advancement of Artificial Intelligence
The source of the article is from the blog aovotice.cz