Midjourney, priljubljen ustvarjalec slik s pomočjo umetne inteligence, je uvedel začasni ukrep blokade ustvarjanja lažnih slik predsednika Joeja Bidna in nekdanjega predsednika Donalda Trumpa pred ameriškimi predsedniškimi volitvami. Odločitev je bila sprejeta po preizkusih, ki jih je izvedla Associated Press in so pokazali potencialno zlorabo orodja. CEO podjetja Midjourney, David Holz, je pojasnil, da si podjetje prizadeva zavzeti stališče proti dezinformacijam v zvezi z volitvami, vendar ni podal podrobnosti o spremembah politike, ki se izvajajo.
Ukrepi podjetja Midjourney, ki zaposluje le 11 ljudi po njihovi spletni strani, se razlikujejo od dejanj drugih vodilnih orodij za ustvarjanje slik. Podjetje se ni udeležilo prostovoljnega industrijskega sporazuma, katerega cilj je bil boj proti AI ustvarjenim deepfakom, namenjenim zavajanju volivcev. Holz je pojasnil, da primarni namen Midjourneyja ni povezan s političnimi govori, vendar si podjetje želi preprečiti preživljanje preveč časa s preprečevanjem takšnih vsebin.
Kritiki so izrazili skrb glede potenciala tehnologije podjetja Midjourney za spodbujanje kampanj dezinformacij in lažnih trditev o volilnih goljufijah. Center za nasprotovanje digitalni sovražnosti je nedavno objavil poročilo, ki kaže, da je bilo že uporabljeno orodje Midjourney za ustvarjanje slik, ki bi lahko podprle take dezinformacije. Callum Hood, vodja raziskav v organizaciji, je poudaril, da se je Midjourney izkazal kot AI ustvarjalec slik z najmanj kontrolami pri ustvarjanju slik znanih političnih osebnosti, kot sta Biden in Trump. Skupina za nadzor je prav tako preizkusila druga orodja, vključno s ChatGPT Plus podjetja OpenAI, DreamStudio podjetja Stability AI in Image Creator podjetja Microsoft, pri katerih so se pokazale težave pri ustvarjanju volilnih dezinformacij.
Kljub odločitvi podjetja Midjourney, da blokira ustvarjanje slik Trumpa in Bidna, so bili primeri, ko so uporabniki v preteklosti uspešno ustvarili takšne vsebine. Vendar pa baza podatkov javno prikazuje, da se je to nedavno spremenilo, saj uporabniki poročajo o opozorilih pri poskusu ustvarjanja slik teh dveh političnih osebnosti. Nekateri uporabniki so izrazili frustracijo zaradi pomanjkanja jasnega sporočanja s strani podjetja Midjourney glede njihove spremenjene politike.
Ena od značilnosti, ki ločuje Midjourney od drugih ustvarjalcev slik, je javnost njihovega delovanja. Uporabniki lahko med seboj ogledujejo spodbude in slike na družbenem mediju Discord, kjer se nahaja največja skupina Midjourney, ki ima več kot 19 milijonov članov. CEO David Holz redno komunicira z uporabniki v tej skupini, spušča se v razprave na širok spekter tem, povezanih z umetno inteligenco in prihodnostjo človeštva.
Čeprav začasna blokada podjetja Midjourney morda naslovi zaskrbljenost glede AI ustvarjenih slik za prihajajoče volitve, Holz napoveduje, da se bo situacija v prihodnosti bistveno spremenila. Verjame, da bodo do leta 2028 vsi kandidati imeli realistične “deepfake klepetalne robote”, ki simulirajo argumente. Holz opozarja, da se bodo posamezniki, ki si želijo ustvariti deepfake vsebine, zatekli k alternativnim metodam, ki se lahko prilagodijo konkretnim ciljem in bodo učinkovitejše od obstoječih sistemov.
Ustanovljen leta 2020 in s sedežem blizu San Francisca, se Midjourney pozicionira kot neodvisni raziskovalni laboratorij, osredotočen na raziskovanje novih oblik razmišljanja in širjenje domišljijskih sposobnosti človeštva. Julija 2022 je podjetje predstavilo javno različico svojega ustvarjalca slik ter sprožilo veliko zanimanje na področju generativne AI tehnologije. Kljub prizadevanjem omogočiti uporabnikom svobodo ustvarjanja raznolikih slik, podjetje aktivno blokira žaljive in škodljive vsebine. Podjetje uporablja filtre ključnih besed in vzdržuje ekipo moderatorjev, ki naslavljajo pritožbe uporabnikov.
FAQ
The source of the article is from the blog anexartiti.gr