Mākslīgā intelekta (AI) attīstība ir radikāli pārveidojusi daudzas nozarēs, tai skaitā arī attēlu radīšanu. Tomēr, lielveikalu iegādējoties AI attēlu veidošanas rīkus, tās saskaras ar būtiskiem izaicinājumiem. To parāda Firefly, Adobe AI attēlu veidošanas rīks. Firefly, kā Google Gemini, tika kritizēts par nelabvēlīgu attēlojumu par rasu un etniskajiem iezīmēm tā veidotajos attēlos.
Gemini apkārtējo mērogu kontroversi izraisīja tās īstermiņa darbības pēc tam, kad tā radīja vēsturiski neprecīzus attēlus, piemēram, attēlojot Amerikas dibinātājus kā melnus, bet atteicās attēlot baltos cilvēkus. Google izpilddirektors Sundar Pichai atzina kļūdu, atzīstot, ka uzņēmums “tajā pārkļūdās”.
Testēšanas organizācija Semafora konstatēja, ka Firefly atkārto daudzas no tām pašām kļūdām, kuras izdarījis Gemini. Abi rīki izmanto līdzīgas tehnikas attēlu radīšanai no rakstītā teksta, bet tiek trenēti, izmantojot dažādas datukopas. Adobe Firefly specifiski izmanto krājuma attēlus vai licencētus attēlus savā apmācības procesā.
Kaut arī Adobe un Google ir atšķirīgas uzņēmumu kultūras, pamata izaicinājums slēpjas attēlu ģenerēšanas pamattehnoloģijā. Uzņēmumi var censties vadīt un veidot algoritmus, bet neviens nevar garantēt, ka visu neprecizitāti un pārpratumi var tikt novērsti pilnībā.
Bieži uzdotie jautājumi
1. Kādas kļūdas izdarīja Firefly?
Firefly radīja attēlus, kas attēloja melnos karavīrus cīņā par nacistisko Vāciju Otrajā pasaules karā un ievietoja melnādainus vīriešus un sievietes ainās, kas attēloja Dibinātājus 1787. gadā. Tas radīja vairākas variances vienāda komiskā apraksta raksturā, ieskaitot vecu baltu vīrieti, melnu vīrieti, melnu sievieti un baltu sievieti. Turklāt tas radīja attēlus par melnajiem vikingiem, līdzīgi tam, ko bija izdarījis Gemini.
2. Kāpēc šādas kļūdas notiek?
Šīs kļūdas izriet no modeļa dizaineru centieniem izvairīties no rasisma stereotipu nodzēšanas. Nodrošinot dažādu grupu, piemēram, ārstu vai noziedznieku, pārstāvniecību, viņi cenšas novērst rases stereotipus. Tomēr, kad šie centieni tiek pielietoti vēsturiskos kontekstos, tos var uztvert kā mēģinājumu pārrakstīt vēsturi, pamatojoties uz mūsdienu politiskajām dinamikām.
3. Vai šie izaicinājumi ir ierobežoti tikai uz Adobe vai Google?
Nē, šie izaicinājumi nav ekskluzīvi konkrētam uzņēmumam vai modelim. Adobes gadījums demonstrē, ka pat uzņēmums, kas pazīstams ar savu nepārkāpumā par ieteikumiem, var saskarties ar grūtībām. Nodrošinot visaptverošus apmācības datus un risinot priekšsēžus AI sistēmās, paliek plaši izplatīts izaicinājums visā nozarē.
Adobe ir veicis nozīmīgus soļus, lai mazinātu šīs problēmas. Uzņēmums trenēja savu algoritmu par krājuma attēliem, atklāti licencētu saturu un publiski pieejamu saturu, lai novērstu autortiesību pārkāpuma problēmas savu klientu labā.
Kamēr Adobe nav komentējis šo konkrēto jautājumu, kontroverses ap AI attēlu radīšanu atklāj sarežģītību, ar ko saskaras tehnoloģiju uzņēmumi, izstrādājot precīzus un nepārprastus AI rīkus. Šie izaicinājumi uzsver nepieciešamību pēc pastāvīgas uzlabošanas un etisko aspektu ņemšanas vērā AI attīstībā un ieviešanā.
Bieži uzdotie jautājumi
1. Kādas kļūdas izdarīja Firefly?
Firefly radīja attēlus, kas attēloja melnos karavīrus cīņā par nacistisko Vāciju Otrajā pasaules karā un ievietoja melnādainus vīriešus un sievietes ainās, kas attēloja Dibinātājus 1787. gadā. Tas radīja vairākas variances vienāda komiskā apraksta raksturā, ieskaitot vecu baltu vīrieti, melnu vīrieti, melnu sievieti un baltu sievieti. Turklāt tas radīja attēlus par melnajiem vikingiem, līdzīgi tam, ko bija izdarījis Gemini.
2. Kāpēc šādas kļūdas notiek?
Šīs kļūdas izriet no modeļa dizaineru centieniem izvairīties no rasisma stereotipu nodzēšanas. Nodrošinot dažādu grupu, piemēram, ārstu vai noziedznieku, pārstāvniecību, viņi cenšas novērst rases stereotipus. Tomēr, kad šie centieni tiek pielietoti vēsturiskos kontekstos, tos var uztvert kā mēģinājumu pārrakstīt vēsturi, pamatojoties uz mūsdienu politiskajām dinamikām.
3. Vai šie izaicinājumi ir ierobežoti tikai uz Adobe vai Google?
Nē, šie izaicinājumi nav ekskluzīvi konkrētam uzņēmumam vai modelim. Adobes gadījums demonstrē, ka pat uzņēmums, kas pazīstams ar savu nepārkāpumā par ieteikumiem, var saskarties ar grūtībām. Nodrošinot visaptverošus apmācības datus un risinot priekšsēžus AI sistēmās, paliek plaši izplatīts izaicinājums visā nozarē.
Definitions:
– Mākslīgā intelekts (AI): Cilvēka intelekta procesu simulēšana ar mašīnām, ieskaitot spēju mācīties un risināt problēmas.
– AI attēlu veidošana: Mākslīgā intelekta algoritmu izmantošana, lai radītu attēlus, balstoties uz tekstveida aprakstiem vai citiem ievadiem.
– Rasisks un etniskas iezīmes: Fiziskās īpašības, kas saistītas ar dažādu rasiu vai etnisko grupu.
– Gemini: Google AI attēlu radīšanas rīks, kurš tika kritizēts par neprecīziem rasisma un etniskās iezīmju attēlojumiem tā veidotajos attēlos.
– Sundar Pichai: Google izpilddirektors.
– Semafora: Testēšanas organizācija, kas konstatēja līdzīgas kļūdas Adobe AI attēlu radīšanas rīkā, Firefly.
Ieteicamie saites:
– Adobe.com
– Google.com
The source of the article is from the blog tvbzorg.com