Meta:n AI-kuvageneraattori on joutunut arvostelun kohteeksi sen väitettyjen vaikeuksien vuoksi tuottaa tarkkoja kuvauksia eri rotutaustoista olevista pareista tai ystävistä. Työkalu, joka julkaistiin joulukuussa, on saanut kritiikkiä kyvyttömyydestään luoda kuvia, jotka tarkasti edustavat rodullisesti sekoittuneita suhteita.
Kun CNN pyysi luomaan kuvan aasialaisesta miehestä valkoisen vaimon kanssa, AI-kuvageneraattori tuotti toistuvasti kuvia itäaasialaisesta miehestä itäaasialaisen naisen kanssa. Sama ongelma ilmeni pyydettäessä luomaan kuva aasialaisesta naisesta valkoisen miehen kanssa. Lisäksi, kun pyydettiin luomaan kuva mustasta naisesta valkoisen miehen kanssa, generaattori tuotti kuvia, joissa esiintyi vain mustia pareja.
Työkalun epätarkkuudet jatkuivat pyydettäessä luomaan kuva aasialaisesta naisesta ja hänen kaukaasisesta ystävästään, mikä johti kuvien esittämiseen kahdesta aasialaisesta naisesta. Vastaavasti pyyntö kuvasta mustasta naisesta ja hänen aasialaisesta ystävästään tuotti kuvia kahdesta mustasta naisesta. Nämä esimerkit osoittavat AI-kuvageneraattorin kyvyttömyyden tarkasti edustaa monipuolisia rotutaustoja luoduissa kuvissaan.
Kuitenkin useiden yritysten jälkeen CNN:n toimesta, työkalu tuotti lopulta kuvia valkoisesta miehestä mustan naisen kanssa ja valkoisesta miehestä aasialaisen naisen kanssa, kun pyydettiin luomaan kuvia rodullisesti sekoitetuista pareista.
Huoli työkalun rodullisesta vinoumasta raportoitiin ensimmäisen kerran teknologiaverkkosivustolla The Verge. Raportti korosti, miten AI-kuvageneraattori kamppaili kuvittelemaan aasialaista miestä valkoisen naisen kanssa. Lisäksi, kun pyydettiin yksinkertaisesti luomaan kuva rodullisesti sekoitetusta parista, työkalu vastasi viestillä, joka ilmoitti, ettei pyydettyä kuvaa voitu luoda.
Rodullisesti sekoittuneet parit muodostavat merkittävän osan Yhdysvaltojen väestöstä. Vuoden 2022 Yhdysvaltain väestönlaskennan mukaan noin 19% naimisissa olevista vastakkaissukupuolisista pareista oli rodullisesti sekoittuneita, kun taas lähes 29% vastakkaissukupuolisista aviottomista paritalouksista oli rodullisesti sekoittuneita. Lisäksi, 31% naimisissa olevista samaa sukupuolta olevista pareista vuonna 2022 oli rodullisesti sekoittuneita. Nämä tilastot korostavat tarkan edustavuuden tärkeyttä AI-generoiduissa kuvissa.
Vastaamalla CNN:n kommenttipyyntöön, Meta viittasi syyskuussa julkaistuun yrityksen blogikirjoitukseen, joka käsittelee generatiivisten AI-ominaisuuksien vastuullista kehittämistä. Blogikirjoitus tunnusti tarpeen käsitellä potentiaalista vinoutta generatiivisissa AI-järjestelmissä ja mainitsi, että käyttäjäpalautteen antaminen on olennaista heidän lähestymistapansa hienosäätämisessä.
AI-kuvageneraattori sisältää vastuuvapauslausekkeen, jossa todetaan, että generaattorilla luodut kuvat saattavat olla epätarkkoja tai sopimattomia. Huolimatta generatiivisen AI:n potentiaalista, tällaiset tapaukset korostavat jatkuvia vaikeuksia, joita AI-työkalut kohtaavat käsitellessään rotukäsitteitä ja edustavuutta.
Tämä ei ole ensimmäinen kerta, kun generatiivisia AI-työkaluja on arvosteltu tällä alalla. Google keskeytti AI-työkalunsa Geminin kyvyn luoda kuvia ihmisistä aiemmin tänä vuonna sen tuottaessa historiallisesti epätarkkoja esityksiä, jotka esittivät pääasiassa värikkäitä yksilöitä valkoisten henkilöiden sijaan. OpenAI:n Dall-E-kuvageneraattoria on myös syytetty haitallisten rotu- ja etnisyysstereotyyppien ylläpitämisestä.
Generatiiviset AI-työkalut, mukaan lukien Meta, Google ja OpenAI:n kehittämät, oppivat valtavista määristä verkossa olevaa dataa. Kuitenkin tutkijat ovat varoittaneet, että nämä työkalut voivat tahtomattaan vahvistaa verkkodataan sisältyviä rotuun liittyviä ennakkoluuloja, joskus suuremmassa mittakaavassa.
Huolimatta näiden AI-työkalujen hyvistä aikomuksista, viimeaikaiset tapahtumat ovat osoittaneet, että ne eivät ehkä ole täysin valmiita laajamittaiseen käyttöön. Haasteet monipuolisten rotutaustojen tarkassa edustamisessa AI-generoiduissa kuvissa vaativat jatkuvaa tutkimusta ja hienosäätöä takaamaan oikeudenmukaista ja tarkkaa edustavuutta.
UKK
The source of the article is from the blog hashtagsroom.com