Midjourney, ein populær bilettgenerator basert på kunstig intelligens, har nyleg implementert ein policy for å blokkere brukarane frå å lage falske bilete av president Joe Biden og tidlegare president Donald Trump. Denne avgjerda kjem i forkant av det amerikanske presidentvalet.
I eit digitalt kontortimearrangement nyleg, uttrykte Midjourney-CEO David Holz behovet for å handsame valrelaterte problem ved å midlertidig avgrense muligheten for å lage misvisande bilete ved bruk av AI-verktøyet. Sjølv om dei nøyaktige detaljane i policyendringane ikkje vart avslørte, understreka Holz viktigheten av å hindre misbruk av verktøyet.
Midjourney si nye policy vart prøvd av Associated Press, som ba om eit bilete av «Trump og Biden som handhelsar på stranda». Verktøyet reagerte med ei «Banned Prompt Detected» varsel fulgt av ei «Abuse Alert» for eit påfølgande forsøk.
Denne avgjerda set Midjourney frå andre leiande bilettgeneratorverktøy, sidan selskapet ikkje sluttar seg til ein frivillig teknologibransjepakt tidlegare i år som hadde som mål å bekjempe AI-genererte deepfakes. Holz presiserte at Midjourney ikkje har som mål å drive politisk tale, men selskapet erkjenner likevel behovet for å adressere potensielt misbruk.
I følgje ein rapport frå Center for Countering Digital Hate hadde Midjourney færre kontrollar på plass samanlikna med andre AI-bilettgeneratorar når det gjaldt å generere bilettar av kjente politiske figurar. Bilettar av kandidatar som Joe Biden og Donald Trump vart overtydande produserte av Midjourney, og det reiste bekymringar om den potensielle spreiinga av desinformasjon.
Likevel kan Midjourney si avgjerd om å blokkere slike bilettar bidra til å adressere denne sårbarheita og bringe dei meir på linje med andre bilettgeneratorverktøy som vart testa i rapporten. Det er verdt å merke seg at rapporten understreka generelle problem med å generere valrelatert desinformasjon blant fleire bilettgeneratorar.
Midjourney sin brukarbase opererer i offentlige forum på Discord, noko som gjer at brukarane kan sjå skrivne oppfordringar og bilete frå andre. Selskapet si Discord-gruppe har ein massiv medlemskap, med over 19 millionar brukarar, og fungerer som ein plattform for diskusjonar om AI og konsekvensane for menneskeheita.
Holz spekulerte også om framtida til deepfake-teknologi, og føreslo at innan 2028 vil alle politiske kandidatar ha ekte utseande «deepfake chatbots» med simulerte argument. Dette reiser bekymringar om potensialet for meir avansert falskt innhald som kan bli brukt til å manipulere den offentlege meiningsdanninga.
Midjourney, grunnlagt i 2020, posisjonerer seg som eit uavhengig forskningslaboratorium som utforskar nye tankemåtar og utvidar menneskeheita si fantasifyldde krefter. Til tross for si forplikting til å tillate eit breitt spekter av bilettproduksjon, modererer selskapet aktivt innhaldet for å hindre at støtande og skadeleg materiale blir produsert.
Når det amerikanske presidentvalet nærmar seg, understrekar handlingane tatt av AI-bilettgenereringsverktøy som Midjourney den pågåande utfordringa med å bekjempe misinformasjon og sikre integriteten til politisk diskurs.
Spørsmål og svar
- Kva er Midjourney?
Midjourney er ein populær kunstig intelligens-bilettgenerator som laurar brukarar å lage ulike bilete ved hjelp av AI-algoritmar. - Kvifor blokkerer Midjourney bilettar av presidentane Biden og Trump?
Midjourney har implementert ei midlertidig policy for å avgrense moglegheita for å lage falske bilettar av president Joe Biden og tidlegare president Donald Trump for å hindre misbruk av verktøyet under det komande amerikanske presidentvalet. - Korleis skil Midjourney seg frå andre bilettgenereringsverktøy?
Til forskjell frå andre bilettgenereringsverktøy, opererer Midjourney i offentlege forum, som til dømes ein Discord-gruppe med over 19 millionar medlemmar. Dette laurar brukarar å sjå framlegg og bilete frå andre brukarar. - Vil blokkeringa av bilettar av Midjourney redusere spreiinga av desinformasjon?
Blokkering av bilettar av politiske figurar som Biden og Trump kan bidra til å adresse den potensielle spreiinga av desinformasjon. Likevel forblir det djupare problemet med å generere valrelatert desinformasjon ein utfordring for AI-bilettgenereringsverktøy.
Definisjonar:
- Kunstig intelligens-bilettgenerator: Eit verktøy som nyttar kunstig intelligens-algoritmar til å generere eller manipulere bilete.
- Deepfakes: Kunstig manipulerte eller syntetiserte medium der ansiktet eller røysta til ein person blir erstatta med ein annan sin, ofte brukt til å lage villedande eller falskt innhald.
Relaterte lenker:
- Midjourney: Den offisielle nettsida til Midjourney, der brukarar kan få tilgang til AI-bilettgeneratorverktøyet.
- The Associated Press: Ein nyheitsorganisasjon som testa Midjourney si nye policy ved å be om eit bilete.
- Center for Countering Digital Hate: Ein organisasjon som publiserte ein rapport om den potensielle spreiinga av desinformasjon av AI-bilettgeneratorar.
The source of the article is from the blog myshopsguide.com