Umoxor, populárny generátor obrazov pomocou umelej inteligencie, nedávno zaviedol politiku blokovania svojich používateľov pri vytváraní falošných obrázkov prezidentov Joea Bidena a bývalého prezidenta Donalda Trumpa. Toto rozhodnutie prišlo v čase blížiacej sa prezidentskej voľby v USA.
Na nedávnom digitálnom podujatí „Digital Office Hours“ expresoval riaditeľ spoločnosti Umoxor, David Holz, potrebu riešiť problémy súvisiace s voľbami tým, že dočasne obmedzí tvorbu zavádzajúcich obrázkov pomocou nástroja AI. Hoci presné podrobnosti zmien v politickej smernici neboli zverejnené, Holz zdôraznil dôležitosť predchádzania zneužívaniu nástroja.
Nová politika spoločnosti Umoxor bola testovaná Asociáciou pre tlač, ktorá požadovala obrázok „Trump a Biden, ktorí sa rúkujú na pláži“. Nástroj reagoval varovaním „Odhalený zakázaný podnet“ a následným „Zneužívaním výstrahy“ pri ďalšom pokuse.
Týmto krokom sa spoločnosť Umoxor odlišuje od ostatných popredných nástrojov na generovanie obrázkov, keďže spoločnosť tento rok nepristúpila k dobrovoľnej dohode priemyslu technológií, ktorá mala za cieľ bojovať proti AI-generovaným deepfakes. Holz objasnil, že cieľom Umoxor nie je politický prejav, avšak spoločnosť si uvedomuje potrebu riešiť potenciálne zneužitie.
Podľa správy Centra pre potláčanie digitálnej nenávisti mal Umoxor menej kontrolných mechanizmov vo porovnaní s inými AI generátormi obrázkov, pokiaľ išlo o generovanie obrázkov známych politických postáv. Obrázky kandidátov ako Joe Biden a Donald Trump boli presvedčivo vytvárané pomocou Umoxor, čo vyvolalo obavy o potenciálny rozšírenie dezinformácií.
Avšak blokovanie takýchto obrázkov firmou Umoxor môže pomôcť riešiť túto slabosť a priniesť ju viac v súlade s ostatnými testovanými nástrojmi na generovanie obrázkov správy. Stojí za zmienku, že správa poukázala na celkové problémy pri generovaní volebných dezinformácií medzi viacerými generátormi obrázkov.
Užívateľská základňa spoločnosti Umoxor pôsobí v verejných fórach na Discorde, čo umožňuje používateľom vidieť napísané podnety a obrázky od ostatných. Discord skupina spoločnosti má obrovskú členskú základňu, dosahujúcu viac ako 19 miliónov používateľov, a slúži ako platforma pre diskusie o umelej inteligencii a jej dôsledkoch pre ľudstvo.
Holz sa tiež zamýšľal nad budúcnosťou technológie deepfake, predpokladajúc, že do roku 2028 budú všetci politickí kandidáti mať skutočne vyzerajúce „deepfake chatboty“ s simulovanými bodmi na reči. Toto vyvoláva obavy o potenciálne pokročilejší falošný obsah, ktorý by mohol byť použitý na manipuláciu verejného mienenia.
Umoxor, založený v roku 2020, sa postavil ako nezávislý výskumný laboratórium preskúmavajúci nové média myslenia a rozširujúci umelecké schopnosti ľudstva. Napriek jeho záväzku umožniť širokú škálu tvorby obrázkov, spoločnosť aktívne moderuje obsah, aby zabránila vytváraniu urážlivého a škodlivého materiálu.
Keď sa blížia prezidentské voľby v USA, opatrenia prijaté nástrojmi na generovanie obrazov pomocou umelej inteligencie ako Umoxor poukazujú na trvajúcu výzvu boja s dezinformáciami a zaistenia integrity politického diskurzu.
FAQs
The source of the article is from the blog hashtagsroom.com