Tekoäly (AI) on mullistanut monia toimialoja, mukaan lukien kuvantaminen. Kuitenkin, kun teknologiayritykset syventyvät tekoälyn kuvantamiseen, he kohtaavat merkittäviä haasteita, kuten on havaittu Fireflyn kohdalla, Adoben tekoälyn kuvantamistyökalussa. Firefly, kuten Googlen Gemini, on saanut kritiikkiä epätarkkojen rotujen ja etnisten piirteiden kuvaamisesta luoduissa kuvissaan.
Kohua ympäröineen Geminin sulkeminen johtui siitä, että se loi historiallisesti epätarkkoja kuvia, kuten Amrikan perustajaisiä kuvattaessa mustina samalla kieltäytyen kuvaamasta valkoisia yksilöitä. Googlen toimitusjohtaja Sundar Pichai myönsi virheen, tunnustaen, että yhtiö ”meni pieleen”.
Testausorganisaatio Semafor löysi, että Firefly toisti monet samat virheet kuin Gemini. Molemmat työkalut käyttävät samanlaisia tekniikoita kuvien luomiseen kirjoitetun tekstin perusteella, mutta ne ovat koulutettu eri aineistoilla. Adoben Firefly hyödyntää erityisesti arkistokuvia tai lisenssikuvia koulutusprosessissaan.
Vaikka Adobella ja Googlella on erilaiset yrityskulttuurit, perusongelma piilee kuvan luomisen ydinteknologiassa. Yritykset voivat pyrkiä ohjaamaan ja muokkaamaan algoritmeja, mutta virheiden ja ennakkoluulojen täydelliseen poistamiseen ei ole varmaa menetelmää.
#### Usein kysytyt kysymykset
1. Minkälaisia virheitä Firefly teki?
Firefly loi kuvia, joissa kuvattiin mustia sotilaita taistelemassa natsi-Saksan puolesta toisessa maailmansodassa ja lisäsi mustia miehiä ja naisia kohtauksiin, jotka kuvasivat perustajaisiä vuonna 1787. Se tuotti myös useita variaatioita sarjakuvahahmosta, mukaan lukien vanha valkoinen mies, musta mies, musta nainen ja valkoinen nainen. Lisäksi se loi kuvia mustista viikingeistä, samankaltaisesti kuin Gemini oli tehnyt.
2. Miksi nämä virheet tapahtuvat?
Nämä virheet johtuvat mallin suunnittelijoiden ponnisteluista välttää rasististen stereotypioiden ylläpitoa. Varmistaakseen monipuolisten ryhmien, kuten lääkärien tai rikollisten, edustuksen, he pyrkivät haastamaan rasistiset stereotypiat. Kuitenkin, kun näitä sovelletaan historiallisiin konteksteihin, näitä ponnisteluja voidaan nähdä yrityksenä kirjoittaa historiaa uudelleen nykypäivän poliittisten dynamiikkojen perusteella.
3. Ovatko nämä haasteet rajoitettuja Adobelle tai Googlelle?
Ei, nämä haasteet eivät ole sidoksissa mihinkään tiettyyn yritykseen tai malliin. Adoben tapaus osoittaa, että jopa yritys, joka tunnetaan ohjeiden noudattamisesta, voi kohdata vaikeuksia. Kattavan koulutusaineiston varmistaminen ja ennakkoluulojen käsitteleminen tekoälyjärjestelmissä ovat laaja-alainen haaste alalla.
Adobe on ottanut merkittäviä askelia näiden ongelmien lieventämiseksi. Yhtiö koulutti algoritmiaan arkistokuvilla, avoimesti lisensoitavalla sisällöllä ja julkisella aineistolla välttääkseen tekijänoikeusrikkomusten ongelmat asiakkaidensa kohdalla.
Vaikka Adobe ei ole kommentoinut tätä tiettyä ongelmaa, tekoälyn kuvantamisen ympärillä vallitsevat kiistat korostavat teknologiayritysten kohtaamia monimutkaisuuksia kehitettäessä tarkkoja ja puolueettomia tekoälytyökaluja. Nämä haasteet korostavat jatkuvia parannuksia ja eettisiä näkökohtia tekoälyn kehityksessä ja käyttöönotossa.
The source of the article is from the blog girabetim.com.br