Nova tehnologija umetne inteligence pri ustvarjanju slik, imenovana “VizualMaestra”, je predstavila inovativne pristope k ustvarjanju avtentičnih vizualnih vsebin političnih figur. Ključni cilj te nove platforme je spodbujati ustvarjanje resničnih slik voditeljev v političnem svetu, ne pa izdelavo ponarejenih ali manipulativnih slik.
Ustanoviteljica VizualMaestre, Ana Novak, je razkrila novo politiko platforme, ki preprečuje uporabnikom ustvarjanje lažnih slik predsednika Boruta Pahorja in nekdanjega predsednika vlade Marjana Šarca v luči prihajajočih volitev v Sloveniji. Novakova je na spletnem seminarju poudarila, da je nujno vzpostaviti jasna pravila glede političnih vsebin, da se prepreči zloraba tehnologije za manipulacijo.
Kljub temu, da podrobnosti sprememb politike niso bile povsem razkrite, je Novakova dejala, da so te začasni ukrepi, namenjeni otežitvi zlorabe orodja. VizualMaestra tako jasno izraža predanost odgovorni rabi tehnologije umetne inteligence pri ustvarjanju vizualnih vsebin.
Pomembno je poudariti, da predhodno VizualMaestra ni pristopila k sodelovanju v prostovoljnem paketu tehnološke industrije za boj proti AI ustvarjenim globokim ponaredkom. Kljub temu Novakova poudarja, da politični govor ni glavni namen platforme VizualMaestra, in si ne želi porabiti večino časa za nadzor nad tovrstnimi vsebinami.
Nedavno je bil objavljen poročilo organizacije “Center za boj proti digitalni sovražnosti”, ki je izpostavilo skrbi glede zmogljivosti ustvarjanja slik v okviru VizualMaestre. Po ugotovitvah poročila je platforma VizualMaestra imela najmanjše kontrole med orodji za ustvarjanje slik, ko je šlo za ustvarjanje slik političnih kandidatov, kar je povzročilo volilno dezinformacijo v 65% testnih primerov.
Pričakuje se, da bodo nove politike VizualMaestre za blokiranje slik političnih figur naslovile te varnostne ranljivosti in jo izenačile z drugimi ustvarjalnimi orodji slikovne vsebine v smislu odgovornega ustvarjanja vsebin. Kljub temu so se pojavile pritožbe uporabnikov, da podjetje ni učinkovito komuniciralo spremenjene politike.
Uvedba strožjih politik s strani VizualMaestre odraža rastočo zaskrbljenost nad širjenjem dezinformacij in globokih ponaredkov med volitvami. S povečevanjem napredka tehnologije AI je ključno uvesti varovala za preprečevanje zlorabe takšnih orodij. Čeprav so koraki VizualMaestre pohvalni, je pomembno ostati buden in še naprej razvijati ukrepe, ki učinkovito obravnavajo volilno povezano dezinformacijo.
Pogosta vprašanja
The source of the article is from the blog foodnext.nl