Modele sztucznej inteligencji (SI) znów znalazły się w centrum kontrowersji z powodu trudności w dokładnym odwzorowywaniu cech fenotypowych i opisów użytkowników podczas generowania obrazów. Najnowszym modelem SI poddanym badaniom i krytyce jest narzędzie do generowania obrazów Meta AI, które zostało określone jako potężne narzędzie do tworzenia obrazów na podstawie tekstu.
Początkowe testy przeprowadzone przez zespół CNN i The Verge ujawniły pewne kłopotliwe problemy z narzędziem do generowania obrazów Meta AI. Wygląda na to, że narzędzie ma trudności w tworzeniu obrazów par o różnych rasowych fenotypach. Na przykład, próbując wygenerować obraz Azjatyckiego mężczyzny z Kaukaską żoną, narzędzie nie było w stanie wygenerować pożądanego rezultatu. Podobnie nie mogło wygenerować obrazu Azjatyckiej kobiety z Białym mężczyzną, i miało trudności z innymi mieszany rasami kombinacjami. CNN poinformował, że narzędzie nie mogło stworzyć obrazu Afroamerykańskiej kobiety z Białym mężem.
W ciekawym zwrocie, dodanie religii wydawało się nieco poprawić wydajność narzędzia. CNN zauważył, że gdy poproszono, aby stworzyć obraz czarnoskórego Żydowskiego mężczyzny i jego Azjatycką żonę, generator obrazów AI wygenerował zdjęcie czarnego człowieka noszącego jarmułkę i Azjatycką kobietę. Jednak, gdy po prostu poproszono o wygenerowanie obrazu „mieszanej pary”, narzędzie przyznało swoją niezdolność do spełnienia prośby.
Ograniczenia narzędzia generowania obrazów Meta AI są szczególnie uderzające, biorąc pod uwagę powszechność par o różnych fenotypach i pochodzeniu w Stanach Zjednoczonych. Według statystyk, co najmniej 19% par różnopłciowych w Ameryce należy do różnych grup etnicznych. Nieumiejętność narzędzia w dokładnym odzwierciedlaniu tej rzeczywistości budzi obawy co do jego potencjalnych uprzedzeń i niedociągnięć w uchwyceniu różnorodności ludzkich relacji.
Problemy narzędzia generowania obrazów Meta AI pojawiły się w związku z nieudanym niedawnym wprowadzeniem na rynek modelu SI o nazwie Gemini, należącego do Alphabet (matka Google’a). Gemini został oskarżony o generowanie ” świadomych” obrazów i zdobył krytykę za rzekome nie potępienie pedofilii. Te incydenty rzucają światło na wyzwania, jakie stoją przed deweloperami SI w zapewnieniu odpowiedzialnego i bezstronnego generowania obrazów.
W miarę rozwoju technologii kluczowe jest, aby modele SI były rozwijane z pełnym zrozumieniem złożoności i subtelności ludzkich doświadczeń. Niedociągnięcia narzędzia do generowania obrazów Meta AI i podobnych narzędzi podkreślają potrzebę ciągłego badania, oceny i doskonalenia, aby zapewnić, że sztuczna inteligencja rzeczywiście odzwierciedla różnorodny świat, w którym żyjemy.
FAQ – Najczęstsze pytania
The source of the article is from the blog maestropasta.cz