Midjourney, den populære kunstige intelligens-billedgenerator, har iværksat en midlertidig foranstaltning for at blokere brugere fra at skabe falske billeder af præsident Joe Biden og tidligere præsident Donald Trump i tiden op til det amerikanske præsidentvalg. Beslutningen kom efter tests udført af The Associated Press, der afslørede potentialet for misbrug af værktøjet. Midjourneys administrerende direktør, David Holz, forklarede, at virksomheden ønsker at tage afstand fra valgrelateret misinformation, men han gav ikke konkrete detaljer om de implementerede politiske ændringer.
Midjourneys skridt, som kun beskæftiger 11 personer ifølge deres hjemmeside, adskiller sig fra handlingerne hos andre førende billedgenereringsværktøjer. Virksomheden deltog ikke i en frivillig branchepagt, der sigtede mod at bekæmpe AI-genererede deepfakes beregnet til at vildlede vælgerne. Holz præciserede, at Midjourneys primære formål ikke vedrører politiske ytringer, men virksomheden ønsker også at undgå at bruge for meget tid på at overvåge sådant indhold.
Kritikere har rejst bekymringer om potentialet for, at Midjourneys teknologi kan skubbe desinformationskampagner og falske påstande om valgsvindel. Center for Countering Digital Hate offentliggjorde for nylig en rapport, der indikerer, at Midjourney allerede er blevet brugt til at fremstille billeder, der kunne støtte sådan desinformation. Callum Hood, chef for forskning hos organisationen, påpegede, at Midjourney skilte sig ud som den AI-billedgenerator med færrest kontroller, når det gjaldt at producere billeder af velkendte politiske figurer som Biden og Trump. Overvågningsgruppen testede også andre værktøjer, herunder OpenAI’s ChatGPT Plus, Stability AI’s DreamStudio og Microsofts Image Creator, som alle viste visse problemer med at generere valgrelateret desinformation.
Selvom Midjourney har besluttet at blokere oprettelsen af billeder af Trump og Biden, har der været tilfælde, hvor brugere med succes har produceret sådant indhold tidligere. Dog indikerer virksomhedens offentlige database, at dette er ændret for nylig, idet brugere modtager advarsler, når de forsøger at generere billeder af de to politiske figurer. Nogle brugere har givet udtryk for frustration over manglende klar kommunikation fra Midjourney om deres reviderede politik.
Et aspekt, der adskiller Midjourney fra andre billedgenereringsværktøjer, er dets offentlige karakter. Brugere kan se hinandens opfordringer og billeder på det sociale medieplatform Discord, hvor Midjourneys største gruppe, bestående af mere end 19 millioner medlemmer, er placeret. Administrerende direktør David Holz interagerer regelmæssigt med brugere i denne gruppe og deltager i diskussioner om en bred vifte af emner relateret til kunstig intelligens og menneskehedens fremtid.
Selvom Midjourneys midlertidige blokering kan tackle bekymringer om AI-genererede billeder til det kommende valg, forudser Holz, at landskabet vil ændre sig markant i fremtiden. Han tror, at inden 2028 vil alle kandidater have realistiske “deepfake chatbots”, der simulerer politiske budskaber. Holz advarer om, at personer, der er besluttet på at skabe deepfakes, vil finde alternative metoder, der kan tilpasses specifikke mål og vise sig mere effektive end de eksisterende systemer.
Etableret i 2020 og med hovedkvarter nær San Francisco positionerer Midjourney sig som et uafhængigt forskningslaboratorium med fokus på at udforske nye former for tanke og udvide menneskers imaginative evner. I juli 2022 introducerede virksomheden den offentlige version af sin billedgenerator, hvilket vakte betydelig interesse inden for generativ AI-teknologi. På trods af at stræbe efter at tillade brugere friheden til at skabe en bred vifte af billeder, blokerer Midjourney aktivt for krænkende og skadeligt indhold. Virksomheden anvender nøgleordfiltre og har et hold af moderatorer, der håndterer klager fra brugere.
FAQ
Q: Hvorfor har Midjourney besluttet at blokere oprettelsen af AI-genererede billeder af Biden og Trump?
A: Midjourney har implementeret en midlertidig foranstaltning for at forhindre oprettelsen af falske billeder af de to politiske figurer i lyset af bekymringer om valgrelateret misinformation.
Q: Hvordan sammenligner Midjourneys respons sig med andre billedgenereringsværktøjer?
A: Mens Midjourney har truffet skridt for at imødegå potentiel misbrug af deres teknologi, deltog de ikke i en frivillig tech-industripagt med det formål at bekæmpe AI-genererede deepfakes. Andre førende billedgenereringsværktøjer stod også over for udfordringer med at forhindre generering af valgdesinformation.
Q: Hvilke kritikker er blevet rettet mod Midjourney?
A: Kritikere hævder, at Midjourneys billedgenerator kan bidrage til desinformationskampagner og falske påstande om valgsvindel.
Q: Hvad er unikt ved Midjourneys tilgang sammenlignet med andre billedgenereringsværktøjer?
A: En særlig funktion ved Midjourney er, at deres platform fungerer i offentlige fora på det sociale medieplatform Discord, hvilket giver brugerne mulighed for at se hinandens opfordringer og billeder.
Q: Hvad forudsiger Midjourneys administrerende direktør for fremtiden for falske billeder?
A: Midjourneys administrerende direktør forudser en fremtid, hvor alle kandidater vil have realistiske “deepfake chatbots”, som simulerer politiske budskaber, hvilket vil gøre oprettelsen af falske billeder endnu mere sofistikerede.
Definitioner:
– AI-billedgenerator: Et værktøj eller software, der bruger kunstig intelligens til at generere billeder.
– Deepfakes: Kunstigt manipuleret eller syntetiseret medie, typisk billeder eller videoer, der skildrer begivenheder eller situationer, der aldrig rent faktisk er forekommet.
The source of the article is from the blog elperiodicodearanjuez.es