Midjourney har nyleg sett i verk tiltak for å blokkere brukarane sine frå å lage falske bilete av President Joe Biden og tidlegare President Donald Trump i tida fram mot det amerikanske presidentvalet. Tiltaket kjem etter at testar gjennomført av The Associated Press avdekte potensialet for misbruk av verktøyet. Midjourney sin administrerande direktør David Holz forklarte at selskapet ønskjer å ta eit standpunkt mot misinformasjon knytt til valet, men gav ikkje konkrete detaljar om endringane som blir implementert.
Midjourney sitt tiltak, som berre har 11 tilsette ifølge nettsida deira, skil seg frå handlingane til andre leiande biletteknologiverktøy. Selskapet deltok ikkje i ein frivillig bransjeavtale som hadde som mål å bekjempe AI-genererte deepfakes som var meint å villede veljarane. Holz klargjorde at Midjourney sitt hovudfokus ikkje er knytt til politiske ytringar, men selskapet ønskjer også å unngå å bruke for mykje tid på å polisere slikt innhald.
Kritikarar har reist bekymringar om potensialet for Midjourney sin teknologi til å drive desinformasjonskampanjar og falske påstandar om valfusk. The Center for Countering Digital Hate publiserte nyleg ein rapport som indikerte at Midjourney allereie vart nytta til å lage bilete som kunne støtte slik desinformasjon. Callum Hood, forskingssjefen i organisasjonen, påpeika at Midjourney skilde seg ut som det AI-biletskapande verktøyet med minst kontrollar når det gjaldt å produsere bilete av kjende politiske figurar som Biden og Trump. Overvåkingsgruppa testa også andre verktøy, inkludert OpenAI’s ChatGPT Plus, Stability AI’s DreamStudio, og Microsoft’s Image Creator, som alle viste ulike problem i å generere valrelatert desinformasjon.
Sjølv om Midjourney har bestemt seg for å blokkere opprettinga av bilete av Trump og Biden, har det vore tilfelle der brukarar har klart å lage slikt innhald tidlegare. Likevel indikerer selskapet si offentlege database at dette har endra seg nyleg, med brukarar som melde om varsel når dei forsøker å generere bilete av dei to politiske figurane. Ein del brukarar har uttrykt frustrasjon over mangelen på tydeleg kommunikasjon frå Midjourney angåande retningslinjene deira.
Ein ting som skil Midjourney ut frå andre bilettnektor, er den offentlege naturen deira. Brukarar kan sjå kvarandres oppmodingar og bilete på det sosiale media-plattformen Discord, der Midjourney si største gruppe, som omfattar meir enn 19 millionar medlemer, er lokalisert. CEO David Holz interagerer jamleg med brukarar i denne gruppa, drøftar ei rekke tema knytt til AI og framtida til menneskeheita.
Sjølv om Midjourney sitt midlertidige blokkeringsgrep kan adressere bekymringar om AI-genererte bilete før det kommande valet, spår Holz at landskapet vil endrast betydeleg i framtida. Han trur at innan 2028, vil alle kandidatar ha realistiske «deepfake chatbots» som simulerer snakkepunkt. Holz advarar om at individ som er fast bestemte på å lage deepfakes vil finne alternative metodar som kan skreddersys for spesifikke mål og vere meir effektive enn eksisterande system.
Etablert i 2020 og hovudkvarter nær San Francisco, posisjonerer Midjourney seg som eit uavhengig forskingslaboratorium som er fokusert på å utforske nye tankemåtar og utvide menneskets fantasifulle kapasitetar. I juli 2022 introduserte selskapet den offentlege versjonen av biletskaparen sin, noko som skapte stor interesse i feltet for generativ AI-teknologi. Sjølv om dei strevar med å la brukarar ha fridom til å lage eit breitt spekter av bilete, blokkerer Midjourney aktivt støytande og skadeleg innhald. Selskapet brukar nøkkelordfiltrar og har ei gruppe med moderatar som handterer klagar frå brukarar.
The source of the article is from the blog be3.sk