Kunstig intelligens (AI) har revolutioneret mange brancher, herunder billedskabelse. Når tech-virksomheder bevæger sig ind på området for AI-billedskabelse, står de over for betydelige udfordringer, som illustreret af Firefly, Adobes AI-billedskabelsesværktøj. Firefly er ligesom Googles Gemini blevet kritiseret for at afbilde racemæssige og etniske træk unøjagtigt i de genererede billeder.
Kontroversen omkring Gemini førte til lukningen, efter at det skabte historisk unøjagtige billeder, såsom at portrættere Amerikas grundlæggere som sorte og samtidig nægte at afbilde hvide personer. Googles adm. direktør, Sundar Pichai, erkendte fejlen og indrømmede, at virksomheden “tog fejl”.
En testorganisation, Semafor, fandt, at Firefly genskabte mange af de samme fejl begået af Gemini. Begge værktøjer bruger lignende teknikker til at skabe billeder ud fra skriftlig tekst, men er trænet på forskellige datasæt. Adobe’s Firefly bruger specifikt lagerbilleder eller licenserede billeder i sin træningsproces.
Selvom Adobe og Google har forskellige virksomhedskulturer, ligger den underliggende udfordring i kerneteknologien til billedgenerering. Virksomheder kan forsøge at guide og forme algoritmerne, men der er ingen fejlsikker metode til at udrydde alle unøjagtigheder og fordomme.
Ofte stillede spørgsmål
1. Hvilke slags fejl begik Firefly?
Firefly genererede billeder, der afbildede sorte soldater, der kæmpede for Nazi-Tyskland under Anden Verdenskrig, og indsætte sorte mænd og kvinder i scener, der portrætterede grundlæggerne i 1787. Det skabte også flere variationer af en tegneseriefigur, herunder en gammel hvid mand, en sort mand, en sort kvinde og en hvid kvinde. Derudover skabte det billeder af sorte vikinger, ligesom Gemini havde gjort.
2. Hvorfor opstår disse fejl?
Disse fejl stammer fra modeldesignernes bestræbelser på at undgå at fastholde racistiske stereotyper. Ved at sikre repræsentation af diverse grupper, såsom læger eller kriminelle, sigter de mod at udfordre racemæssige stereotyper. Dog kan disse bestræbelser, når de anvendes på historiske kontekster, opfattes som et forsøg på at omskrive historien baseret på nutidens politiske dynamik.
3. Er disse udfordringer begrænset til Adobe eller Google?
Nej, disse udfordringer er ikke eksklusive for en bestemt virksomhed eller model. Adobes tilfælde demonstrerer, at selv en virksomhed, der er kendt for at overholde retningslinjer, kan støde på vanskeligheder. At sikre omfattende træningsdata og adressere fordomme i AI-systemer forbliver en udbredt udfordring på tværs af branchen.
Adobe har taget betydelige skridt for at mindske disse problemer. Virksomheden trænede sin algoritme på lagerbilleder, offentligt licenseret indhold og public domain-indhold for at undgå ophavsretlige bekymringer for deres kunder.
Mens Adobe ikke har udtalt sig om dette specifikke spørgsmål, fremhæver kontroverserne omkring AI-billedskabelse de kompleksiteter, som tech-virksomheder står over for i udviklingen af nøjagtige og upartiske AI-værktøjer. Disse udfordringer understreger behovet for løbende forbedringer og etiske overvejelser i AI-udvikling og implementering.
The source of the article is from the blog windowsvistamagazine.es