I den siste tida har Meta Image-skaperen møtt kritikk for å ikkje kunne produsere eit bilete av ein asiatar med ei kvit kvinne. Dette problemet har kasta lys over den større utfordringa med fordommar i bildegenererande system. Under mine eigne tester retta eg merksemda mot framstillinga av jødar i ulike AI-robotar. Resultata var urovekkjande.
Det er viktig å merke seg at kvar AI-modell, spesielt store språkmodellar (LLM-er), kan utilsiktet plukke opp fordommar frå treningsdataene sine. I dei fleste tilfelle vert treningsdata innhenta frå den vide verda av internett utan samtykke. Ikke overraskande er internett fylt med negativt materiale, noko som ofte resulterer i fordomsfulle utdata frå AI-genererarar.
Microsofts Copilot Designer, tidlegare kjent som Bing Chat, har fått kritikk for det støtande innhaldet det produserer. I motsetnad til andre bildegenererarar, vidarebringer Copilot Designer ofte negative stereotypar om jødar. Når den blir oppfordra med termar som «jewish boss» eller «jewish banker,» kan dei genererte bileta vere sjokkerande støtande og forsterke skadelege stereotypar.
Fordommane funne i Copilot Designer understrekar viktigheten av retningslinjer i AI-system. Sjølv om AI-leverandørar siktar mot å unngå å generere stereotypar eller hatprat, kan det vere utfordrande å finne rett balanse. Sjølv gigantar i bransjen som Google stod overfor kontrovers med sin biledegnerator Gemini, som ulikt skapte historisk inkorrekte bilete i eit forsøk på å betre representasjonen.
Det er avgjerande å vurdere konsekvensane av desse fordommane og sikre at system som Copilot har solide tiltak på plass for å motverke støtande resultat. Sjølv om bileta i denne artikkelen kan vere støtande, er det viktig å vise bevis på AI-fordommar for å ta tak i og rette opp desse problema.
### Ofte stilte spørsmål:
1. Kva er Copilot Designer?
Copilot Designer er eit tekst-til-bilde-verktøy som tilbys av Microsoft gratis til brukarar med ein Microsoft-konto. Det kan generere inntil 15 bilete per dag, med moglegheit til å abonnere på Copilot Pro for ubegrensa tilgang. Verktøyet er tilgjengeleg både på nettlesarar og Windows-skrivebord.
2. Viser Copilot Designer fordommar i dei genererte bileta sine?
Ja, Copilot Designer har vore kjent for å produsere støtande og stereotypiske bilete, inkludert dei som skildrar jødar i eit negativt lys.
3. Korleis skaffar AI-modellar som Copilot Designer seg fordommar?
AI-modellar lærer frå store mengder treningsdata, ofte samla inn frå internett. Uten tilstrekkeleg regulering kan fordommar og negativt materiale som er til stades på internett absorberast av desse modellane.
4. Vert det gjort innsatsar for å motverke desse fordommane i Copilot Designer?
Microsoft har erkjent problemet og hevdar å undersøke dei rapporterte fordommane. Dei tar tiltak for å styrke sikkerheitsfiltre og hindre misbruk av systemet.
Kjelde: [Microsoft Copilot Designer](https://www.microsoft.com/)
Under mine eigne tester viste resultata at dei støtande fordommane fortsatt står, sjølv etter Microsoft sin undersøking. Genererte bilete som svar på førespurnaden «jewish boss» skildra ofte religiøse jødar omringa av jødiske symbol, som Magen David og menorahs. Nokre inkluderte til og med stereotypiske objekt som bagels eller haugar med pengar. I visse tilfelle var dei genererte bileta sjokkerande støtande, med demoniske skikkar i svarte hattar som heldt bananar.
Sjølv om Copilot Designer blokkerer visse problematiske termar, som «jew boss» eller «jewish blood,» kan støtande innhald framleis produserast ved hjelp av alternative ord eller synonym. Sjølv om det er lagt ned innsatsar for å førebyggje fordommar, kan bigottar bruke synonymlistar for å finne smutthol og fortsette å generere støtande bilete.
Til slutt indikerer fordommane som blir vist av AI-bildegneratorar som Copilot Designer behovet for strengare og meir omfattande retningslinjer. Det er nødvendig å ta tak i desse fordommane for å sikre ei positiv og inkluderande oppleving for brukarar. Gjennomsiktighet, ansvar og kontinuerleg forbetring er avgjerande for den løpande utviklinga av AI-teknologiar.
### Ofte stilte spørsmål:
1. Korleis fungerer Copilot Designer?
Copilot Designer er ein AI-dreven bildegnerator som opererer ved hjelp av tekstførespurnader. Den analyserer den gitte førespurnaden og genererer eit bilete basert på si tolking.
2. Kan brukarar gje tilbakemelding om støtande resultat frå Copilot Designer?
Ja, brukarar har moglegheit til å rapportere støtande bilete generert av Copilot Designer. Microsoft hevdar å undersøke og ta passande tiltak for å takle slike bekymringar.
3. Finst det andre AI-bildegneratorar tilgjengelege?
Fleire selskap tilbyr AI-bildegneratorar liknande Copilot Designer, men kvar kan ha sine eigne fordommar og avgrensingar. Brukarar bør vere forsiktige og vere klar over dei potensielle fordommane som er til stades i desse systema.
4. Er det nokon initiativ på plass for å redusere fordommar i AI-system?
Det vert gjort innsatsar i bransjen for å takle fordommar i AI-system. Men den komplekse naturen til treningsdata og moglegheita for fordommar å dukke opp i AI-modellar krev kontinuerleg forsking og utvikling.
Kjelde: [Microsoft Copilot Designer](https://www.microsoft.com/)
The source of the article is from the blog mendozaextremo.com.ar