Spoločnosť Midjourney, špecializujúca sa na vytváranie obrázkov pomocou umelej inteligencie, nedávno urobila zaujímavý krok. Kompletné informácie sa neposkytli, no zdá sa, že obmedzili možnosť vytvárať falošné obrázky prezidenta Joea Bidena a bývalého prezidenta Donalda Trumpa. Oznámenie udalosti a nevhodného použitia nástroja zverejnil CEO spoločnosti, David Holz, na podujatí digitálnych konzultácií.
Súčasným problémom je riziko dezinformácií v oblasti volieb, čo podčiarklo aj Centrum pre boj proti digitálnej nenávisti (CCDH). Ich nedávna správa ukázala, že nástroj na generovanie obrázkov od Midjourney má nedostatočné kontroly v porovnaní s inými populárnymi nástrojmi, čo ho robí náchylným na vytváranie obrázkov, ktoré by mohli podporovať nepravdivé tvrdenia o podvodu volebné. Vyšetrenie CCDH zistilo, že Midjourney dosiahol najhoršie výsledky z testovaných nástrojov s neúspešnosťou 65% pri generovaní volebnej dezinformácie.
Hľadiac do budúcnosti, Holz predpovedá nárast počtu falošných obrázkov počas volieb s varovaním, že do roku 2028 budú pravdepodobne všetci kandidáti mať skutočne vyzerajúce „hlboké chatboty.“ Zatiaľ čo Midjourney prijíma opatrenia na predchádzanie zneužitiu, Holz uznáva, že jednotlivci s motiváciou vytvárať hlboké falzy pravdepodobne nájdu alternatívne metódy, ktoré budú účinnejšie a špecificky prispôsobené ich cieľom.
FAQ:
1. Čo je Midjourney?
Midjourney je nástroj na generovanie obrázkov s použitím umelej inteligencie, umožňujúci používateľom vytvárať realistické obrázky na základe zadania.
2. Prečo Midjourney zablokoval vytváranie falošných obrázkov Bidena a Trumpa?
Midjourney dočasne zablokoval vytváranie takýchto obrázkov s cieľom zabrániť šíreniu dezinformácií o voľbách a zneužitiu nástroja.
3. V čom sa Midjourney líši od iných generátorov obrázkov?
Na rozdiel od iných funguje Midjourney na platforme sociálneho média Discord, kde používatelia vidia písomné podnety a obrázky ostatných.
4. Čo je Centrum pre boj proti digitálnej nenávisti (CCDH)?
Centrum pre boj proti digitálnej nenávisti (CCDH) je organizácia, ktorá si kládzie za cieľ bojovať proti digitálnej nenávisti a dezinformáciám.
Zdroje:
– The Associated Press: Link not provided
– Centrum pre boj proti digitálnej nenávisti: [Link not provided]
Definície:
– AI generátor obrázkov: Nástroj, ktorý používa umelej inteligenciu na generovanie realistických obrázkov na základe daných podnetov.
– Hlboké falošné: Syntetická média, ako sú obrázky alebo videá, ktoré boli vytvorené alebo upravené pri použití umelej inteligencie, aby vyzerali skutočné, ale sú v skutočnosti falošné.
– Dezinformácie: Falošné alebo zavádzajúce informácie šírené s úmyslom klamať alebo zavádzať.
– Volebný podvod: Nezákonný zásah alebo manipulácia s procesom volieb s cieľom ovplyvniť ich výsledok.
– Moderácia: Akt monitorovania a kontroly obsahu vytvoreného používateľmi na zabezpečenie dodržiavania stanovených prehľadov alebo politík.
The source of the article is from the blog macnifico.pt