Artificial Intelligence (AI) har revolusjonert mange bransjar, inkludert bileteskaping. Men når teknologiselskap utforskar AI-bileteskaping, møter dei store utfordringar, slik det blir illustrert av Firefly, Adobes kontroversielle AI-bileteskaping-verktøy.
Kontroversen rundt Gemini førte til at det vart stengt ned etter å ha skapt historisk unøyaktige bilete, som å framstille Amerikas grunnleggjande fedrar som svarte, samtidig som det nekta å framstille kvite enkeltpersonar. Googles administrerande direktør, Sundar Pichai, innrømte feilen og erkjente at selskapet «tok feil».
Semafor, ein testorganisasjon, fann at Firefly gjenskapte mange av dei same feila som Gemini hadde gjort. Begge verktøya brukar likande teknikkar for å skape bilete frå skriven tekst, men er trente på forskjellige datasett. Adobes Firefly nyttar spesielt arkivbilete eller lisensierte bilete i opplæringa si.
Sjølv om Adobe og Google har ulike selskapskulturar, ligg utfordringa i kjerneteknologien for bileteskaping. Selskap kan prøve å styre og forme algoritmene, men det finst ingen feilsikker metode for å utraderer alle unøyaktigheiter og skjeivskap.
Ofte stilte spørsmål
1. Kva for slags feil gjorde Firefly?
– Firefly genererte bilete som framstilte svarte soldatar som kjempa for Nazi-Tyskland under andre verdskrig, og sette inn svarte menn og kvinner i scenar som skildrar grunnleggjande fedrar i 1787. Det produserte òg fleire variantar av ein tegneseriefigur, inkludert ein gamal kvit mann, ein svart mann, ei svart kvinne og ei kvit kvinne. I tillegg skapte det bilete av svarte vikingar, noko liknande det Gemini hadde gjort.
2. Kvifor oppstår desse feila?
– Desse feila kjem frå innsatsen til modellens designarar for å unngå å vidareføre rasistiske stereotypar. Ved å sikre representasjon av ulike grupper, som leger eller kriminelle, ønskjer dei å utfordre rasistiske stereotypar. Men når dette blir brukt på historiske samanhengar, kan desse innsatsane bli sett på som eit forsøk på å omskrive historie basert på samtids politiske dynamikkar.
3. Er desse utfordringane avgrensa til Adobe eller Google?
– Nei, desse utfordringane er ikkje avgrensa til eit spesifikt selskap eller modell. Adobe-saka viser at sjølv eit selskap kjent for å følgje retningslinjer kan møte på vanskar. Å sikre omfattande opplæringsdata og adressere skjeivskap i AI-systemer forblir ein utbreidd utfordring i bransjen.
Adobe har tatt betydelege steg for å redusere desse problemområda. Selskapet har trent algoritmen sin på arkivbilete, open lisensiert innhald og offentleg domeneinnhald for å unngå opphavsrettslege bekymringar for kundane sine.
Medan Adobe ikkje har kommentert denne spesifikke saka, peikar kontroversane rundt AI-bileteskaping på dei kompleksitetar tech-selskap står overfor når dei utviklar nøyaktige og upartiske AI-verktøy. Desse utfordringane understrekar behovet for kontinuerlege forbetringar og etiske omsyn i AI-utvikling og implementering.
The source of the article is from the blog macholevante.com