Tekoälyn (AI) mallit ovat jälleen joutuneet keskelle kiistaa niiden kamppaillessa tarkasti kuvata fenotyyppisiä piirteitä ja käyttäjäkuvauksia luodessaan kuvia. Viimeisin tekoälymalli, joka on koettanut vastatuulessa, on Meta’n AI-kuvantunnistustyökalu, jota on pidetty voimakkaana työkaluna kuvien luomiseen tekstistä.
Ensimmäiset CNNetin ja The Vargen tiimin tekemät testit ovat paljastaneet huolestuttavia ongelmia Meta’n AI-kuvantunnistustyökalun kanssa. Näyttää siltä, että työkalu kamppailee luodessaan kuvia pareja, joilla on erilaisia rodullisia fenotyyppejä. Esimerkiksi yrittäessään luoda kuvaa aasialaisesta miehestä kaukasialaisen vaimon kanssa, työkalu ei pystynyt tuottamaan haluttua tulosta. Samoin se ei voinut luoda kuvaa aasialaisesta naisesta valkoisen miehen kanssa ja sillä oli vaikeuksia muiden rotujen välisten yhdistelmien kanssa. CNNet raportoi, että työkalu ei kyennyt tuottamaan kuvaa afrikkalais-amerikkalaisesta naisesta valkoisen miehen kanssa.
Mielenkiintoisella käänteellä uskonnon lisääminen näytti hieman parantavan työkalun suorituskykyä. CNNet huomasi, että kun pyydettiin luomaan kuva mustasta juutalaisesta miehestä ja hänen aasialaisesta vaimostaan, tekoälyn kuvantunnistin tuotti kuvan mustasta miehestä, joka kantoi juutalaiskalottia, ja aasialaisesta naisesta. Kuitenkin, kun yksinkertaisesti pyydettiin luomaan kuva ”rotu-sekapariskunnasta”, työkalu myönsi kyvyttömyytensä täyttää pyyntöä.
Tekoälyn kuvantunnistustyökalun rajoitukset ovat erityisen silmiinpistäviä ottaen huomioon erilaisten fenotyyppien ja taustojen pariskuntien yleisyys Yhdysvalloissa. Tilastojen mukaan vähintään 19% erit. pariskunnista kuuluu eri etnisiin ryhmiin. Työkalun epäonnistuminen kuvaamaan tätä todellisuutta tarkasti herättää huolia sen mahdollisista puolueellisuuksista ja puutteista ihmisten suhteiden monimuotoisuuden tallentamisessa.
Meta’n AI-kuvantunnistustyökalun ongelmat tulivat esille Alphabetin (Googlen emoyhtiön) äskettäisen epäonnistuneen Gemini-lanseerauksen jälkeen, toinen tekoälymalli. Geminin väitettiin tuottaneen ”trendikkäitä” kuvia ja se sai kritiikkiä siitä, että se ei tuominnut pedofiliaa. Nämä tapaukset tuovat esiin tekoälyn kehittäjien kohtaamat haasteet vastuullisen ja puolueettoman kuvantunnistuksen varmistamisessa.
Teknologian jatkaessa kehittymistään on olennaista, että tekoälymallit kehitetään syvällisellä ymmärryksellä inhimillisten kokemusten monimutkaisuuksista ja hienouksista. Meta’n AI-kuvantunnistustyökalun ja vastaavien työkalujen heikkoudet korostavat tarvetta jatkuvaan tarkasteluun, arviointiin ja parantamiseen varmistaakseen, että tekoäly todella heijastelee monimuotoista maailmaa, jossa elämme.
UKK (Usein kysytyt kysymykset)
The source of the article is from the blog queerfeed.com.br