Lidia PerskaEurópski výskumníci vytvárajú nástroje AI na identifikáciu škodlivej propagandy
V digitálnej ére je monitorovanie online prostredí výzvou. Výskumníci z celej Európy sa stretávajú s cieľom zdokonaliť umelej inteligencie, ktorá dokáže identifikovať a zasahovať do radikálnej propagandy. Tím pod vedením Skupiny pre inteligentné systémy na Polytechnickej univerzite v Madride (UPM), spolu s partnermi z univerzity Roma Tre v Taliansku, University of Middlesex vo Veľkej Británii a poľskej polície, posúva hranice AI v boji proti škodlivému obsahu pre spoločnosť.
Európska komisia uznala naliehavosť zastavenia šírenia extrémnych ideológií zacielujúcich na zraniteľných občanov západných krajín k vykonaniu násilných činov. V súlade s touto smernicou projekt Participation, vybavený takmer 3 miliónmi eur, si kladie za cieľ obmedziť tok propagandy do Európy so zameraním na skúmanie jazyka a naratívov.
Patricia Alonso del Real a Oscar Araque z UPM sú na čele tohto úsilia. Vytvárajú modely AI, ktoré rozlišujú emocionálne a morálne signály určené na radikalizáciu čitateľov. Využívajúc spracovanie prirodzeného jazyka a strojové učenie, systémy môžu posúdiť emocionálny a morálny obsah zakorenený v správach a určiť ich potenciál na radikalizáciu.
Štúdia s názvom „Kontextualizácia systému na detekciu radikálneho jazyka prostredníctvom morálnych hodnôt a emócií“ získala pozornosť po publikácii v akademickom časopise IEEE Access.
Tento vývoj je dôležitý vzhľadom na rastúcu vlnu škodlivého obsahu na sociálnych sieťach a fórach, ako zdôraznil Oscar Araque, profesor ETSIT na UPM. Keďže Únia sa snaží zabezpečiť bezpečnú digitálnu budúcnosť, takéto pokroky v oblasti AI sú kľúčové.
Skupina pre inteligentné systémy, okrem Participation, koordinuje viaceré projekty založené na AI, vrátane projektu AMOR. Sústredí sa na nové metódy ako inteligentné roboty a holografické systémy, ktoré majú uľahčiť zodpovednú a informovanú spotrebu obsahu pre občanov.
Aktuálne trhové trendy v moderovaní online obsahu založenom na AI
Globálne záujem o používanie AI na moderovanie online obsahu vzrástol v posledných rokoch, v dôsledku zvyšujúceho sa výskytu škodlivého obsahu a následného regulačného tlaku na technologické spoločnosti. Hlavné sociálne mediálne platformy a ďalší poskytovatelia online služieb integrujú nástroje AI na preventívne detekciu a riadenie extremistického materiálu. Očakáva sa teda, že trh s AI v moderovaní obsahu bude rásť, pričom firmy ponúkajú sofistikované technológie, ktoré dokážu porozumieť kontextu, detekovať nuansy a zmierniť predsudky.
Prognózy pre AI v boji proti radikálnemu online obsahu
Prognózy priemyslu naznačujú, že trh s AI v moderovaní obsahu bude ďalej rásť, keďže dopyt po automatickej detekcii extremistického obsahu eskaluje. Okrem toho by model AI as a Service (AIaaS) mohol rásť, kde malé a stredné podniky môžu využívať pokročilé schopnosti AI bez vytvárania vlastných riešení. Očakáva sa aj nárast vývoja multijazyčných nástrojov AI, najmä v kultúrne rozmanitých regiónoch ako je Európa.
Kľúčové výzvy a kontroverzie
Jednou z hlavných výziev v tejto oblasti je zaručenie, že nástroje AI respektujú slobodu reči, pričom efektívne identifikujú radikálny obsah. Riziko nadmernej cenzúry alebo ‚falošných pozitív‘ – kde je neškodný obsah omylem označený – ostáva významným problémom. Na popredí sú aj otázky ochrany súkromia, pretože tieto nástroje vyžadujú prístup k veľkému množstvu údajov používateľov na efektívne fungovanie. Okrem toho prebieha diskusia o zodpovednosti za rozhodnutia prijaté AI, ktoré by mohli zahŕňať chyby vedúce k neoprávnenej cenzúre alebo nedostatočnej moderácii.
Výhody a nevýhody AI pri boji proti radikálnemu obsahu
Výhody AI pri riešení radikálneho online obsahu zahŕňajú škálovateľnosť, kde AI dokáže efektívnejšie spracovať veľké objemy údajov než ľudskí moderátori. Modely AI tiež ponúkajú potenciál pre rýchlu odpoveď a prispôsobenie sa novým extremistickým naratívom a strategiám propagandy. Nevýhody zahŕňajú možnosť, že AI prehliadne jemný kontext, ktorý by ľudskí recenzenti zachytili. Navyše, algoritmy by mohli zachovávať predsudky, ak nie sú primerane školené na rozmanitých datasetoch.
Pre pomoc pri hľadaní autoritatívnych zdrojov a súvisiacich informácií sa môžu používatelia obrátiť na hlavné webové stránky niektorých popredných výskumných inštitúcií AI a organizácií zapojených do politiky AI v Európe:
Polytechnická univerzita v Madride
Európska únia (EU)
IEEE
Vzhľadom na zložitosť a etické zvažovania týkajúce sa používania AI pri moderovaní online obsahu sú neustála diskusia a výskum nevyhnutné pre zabezpečenie toho, aby tieto nástroje prispievali k prospechu spoločnosti a zároveň zachovávali demokratické hodnoty.
