Изкуственият интелект (AI) за генериране на изображения е революционирал начина, по който създаваме и визуализираме цифровото съдържание. Въпреки това последните открития разкриха наличието на нараняващи предразсъдъци вградени в тези AI модели. Един пример за това е AI генератора на изображения на Meta „Imagine“, който се бори да визуализира определени междурасови взаимоотношения точно.
Наем소 проведе изследване на проблема и откри, че когато се подтикне да генерира изображения на „азиатски мъж и кауказийски приятел“ или „азиатски мъж и бяла съпруга“, приложението последователно произвежда изображения на двама азиатци вместо търсената международна двойка. Този конкретен предразсъдък е изключително забележителен, особено като се има предвид, че изпълнителният директор на Meta, Марк Цукербърг, е женен за Присцила Чан, която е азиатка.
Допълнителни изследвания от страна на Gizmodo разкриха, че Meta’s Imagine не срещна същата трудност при генерирането на изображения на други междурасови двойки, като бял мъж и азиатска жена. Тези открития повдигат въпроси относно подлежащите грешки и предразсъдъци, които са присъствали в данните, използвани за обучение на AI системите за генериране на изображения.
Струва си да се отбележи, че Meta’s Imagine не е единственият генератор на изображения, който се е сблъсквал с контроверзии. През февруари Google беше принуден да затвори своя генератор на изображения „Gemini“, след като той произвеждаше изображения с расово разнообразие на нацистите. Този инцидент беше разглеждан като последица от лошия опит за включване на разнообразие без подходящ надзор.
Критиците аргументират, че тези предразсъдъци произтичат от голямото количество данни, извлечени от интернет, за да се обучат AI генераторите на изображения. Тъй като интернетът отразява съществуващите расови стереотипи и предразсъдъци, то ненамерено ги укрепва чрез тези AI модели. Въпреки че са предприети усилия за отстраняването на тези предразсъдъци, те не са успели да се справят с коренните проблеми.
Генеративният AI, включително генераторите на изображения и чатботовете, все още се борят с точността и обективността. AI чатботовете често се сблъскват с трудности при казването на истината или правенето на логични изявления, отразявайки предизвикателствата, пред които са изправени генераторите на изображения.
Технологичната индустрия, особено големите технологични гиганти, трябва да демонстрират своята ангажираност към изкореняването на тези предразсъдъци и поправянето на недостатъците в техните AI системи. Расовите предразсъдъци в технологиите не могат да бъдат пренебрегнати като изолирани инциденти, а се изискват комплексни решения, за да се промени пейзажът.
ЧЗВ:
Q: Какво са AI генераторите на изображения?
A: AI генераторите на изображения са инструменти или системи, задвижвани от изкуствен интелект, които могат да генерират реалистични изображения на база определени входни данни или команди.
Q: Имат ли AI генераторите на изображения предразсъдъци?
A: Да, AI генераторите на изображения могат да имат предразсъдъци поради данните, на които са обучени, които често отразяват съществуващи расови стереотипи и обществени предразсъдъци.
Q: Какво е проблемът с AI генератора на изображения на Meta, Imagine?
A: AI генератора на изображения на Meta, Imagine, се сблъска с трудности при генерирането на точни изображения на определени междурасови взаимоотношения, последователно произвеждайки изображения на двама азиатци вместо тоърсената междурасова двойка.
Q: Дали предразсъдъците са чест проблем в AI технологиите?
A: Да, предразсъдъците са широко разпространен проблем в AI технологиите, засягайки различни приложения, включително генератори на изображения, чатботове и други AI системи.
Q: Как се справят големите технологични гиганти с тези предразсъдъци?
A: Големите технологични гиганти се стремят да справят с предразсъдъците в AI системите. Въпреки това още има много работа, което трябва да се свърши, за ефективно изкореняване на предразсъдъците и гарантиране на справедливост и обективност на AI технологиите.
Източници:
– Не бяха посочени конкретни източници в първоначалната статия.
The source of the article is from the blog queerfeed.com.br