W ostatnich doniesieniach Meta Image generator skrytykowano za brak możliwości wygenerowania obrazu Azjaty z białą kobietą. Sprawa ta rzuciła światło na większy problem uprzedzeń w generatorach obrazów. Podczas przeprowadzania własnych testów skupiłem się na przedstawieniu Żydów w różnych botach AI. Wyniki były niepokojące.
Ważne jest zauważenie, że każdy model AI, a szczególnie duże modele językowe (LLM), nieumyślnie mogą przyswoić sobie uprzedzenia z danych treningowych. W większości przypadków te dane treningowe są zbierane z ogromnego zakresu Internetu bez zgody. Nic więc dziwnego, że Internet jest pełen negatywnych obrazów, co często przekłada się na uprzedzeniowe wyniki generowane przez generatory AI.
Copilot Designer Microsoftu, wcześniej znany jako Bing Chat, został skrytykowany za ofensywne treści, które generuje. W przeciwieństwie do innych generatorów obrazów, Copilot Designer często utrwala negatywne stereotypy dotyczące Żydów. Gdy jest wzywany z wyrażeniami takimi jak „jewish boss” czy „jewish banker,” wygenerowane obrazy mogą szokować swoją ofensywnością i wzmacniać szkodliwe stereotypy.
Odnalezione uprzedzenia w Copilot Designer podkreślają wagę barier w systemach AI. Chociaż dostawcy AI dążą do unikania generowania stereotypów czy mowy nienawiści, znalezienie właściwej równowagi może być trudne. Nawet giganci branży, jak Google, zmierzyli się z kontrowersjami związanymi z ich generatorem obrazów Gemini, który nieumyślnie tworzył historycznie niepoprawne obrazy próbując zwiększyć reprezentatywność.
Należy wziąć pod uwagę wpływ tych uprzedzeń i zapewnić, że systemy takie jak Copilot posiadają solidne środki, by przeciwdziałać ofensywnym wynikom. Mimo że obrazy w tym artykule mogą być obraźliwe, istotne jest przedstawienie dowodów na uprzedzenie w AI, by zwrócić uwagę na te problemy i je naprawić.
FAQ:
1. Kim jest Copilot Designer?
Copilot Designer to narzędzie do generowania obrazów na podstawie tekstu oferowane przez Microsoft bezpłatnie dla użytkowników z kontem Microsoft. Może wygenerować do 15 obrazów dziennie, a użytkownicy mają możliwość subskrybowania Copilot Pro dla nielimitowanego dostępu. Narzędzie dostępne jest zarówno w przeglądarkach, jak i na pulpitach z systemem Windows.
2. Czy Copilot Designer wykazuje uprzedzenia w generowanych obrazach?
Tak, Copilot Designer jest znany z tworzenia ofensywnych i stereotypowych obrazów, w tym tych przedstawiających Żydów w negatywnym świetle.
3. Skąd modele AI jak Copilot Designer wchłaniają uprzedzenia?
Modele AI uczą się na podstawie ogromnych ilości danych treningowych, często zbieranych z Internetu. Bez odpowiednich regulacji, uprzedzenia i negatywne obrazy obecne w Internecie mogą być absorbowane przez te modele.
4. Czy podejmowane są działania w celu zniwelowania uprzedzeń w Copilot Designer?
Microsoft przyznał się do problemu i twierdzi, że bada zgłoszone uprzedzenia. Podjęto działania w celu wzmocnienia filtrów bezpieczeństwa i zapobiegania nadużyciom systemu.
Źródła:
Microsoft Copilot Designer: Microsoft
Google Gemini: Google
Otrzymane wyniki podczas moich własnych testów pokazały, że ofensywne uprzedzenia utrzymują się nawet po zbadaniu ich przez Microsoft. Wygenerowane obrazy w odpowiedzi na frazę „jewish boss” często przedstawiały religijnych Żydów otoczonych symbolami żydowskimi, takimi jak Gwiazdy Dawida i Menory. Niektóre z nich zawierały nawet stereotypowe obiekty, takie jak bułki czy stosy pieniędzy. W pewnych przypadkach wygenerowane obrazy były szokująco obraźliwe, ukazując demoniczną postać noszącą czarne kapelusze i trzymającą banany.
Mimo że Copilot Designer blokuje pewne problematyczne terminy, takie jak „jew boss” czy „jewish blood,” ofensywne treści wciąż mogą być generowane przy użyciu alternatywnych słów lub synonimów. Pomimo podejmowanych wysiłków na rzecz zapobiegania uprzedzeniom, bigoci mogą posługiwać się słownikami aby znaleźć luki i nadal generować obrazoburcze obrazy.
Podsumowując, uprzedzenia występujące w generatorach obrazów AI jak Copilot Designer wskazują na konieczność ustalania bardziej restrykcyjnych i wszechstronnych barier. Konieczne jest rozwiązanie tych uprzedzeń, by zapewnić pozytywne i włączające doświadczenie dla użytkowników. Przejrzystość, odpowiedzialność i nieustanne doskonalenie są istotne w ciągłym rozwoju technologii AI.
FAQ:
1. Jak działa Copilot Designer?
Copilot Designer to generator obrazów oparty na AI, który działa na podstawie promptów tekstowych. Analizuje podany prompt i generuje obraz na podstawie swojego zrozumienia.
2. Czy użytkownicy mogą przekazywać opinie dotyczące ofensywnych wyników Copilot Designer?
Tak, użytkownicy mają możliwość zgłaszania ofensywnych obrazów generowanych przez Copilot Designer. Microsoft twierdzi, że bada sytuację i podejmuje odpowiednie kroki w celu rozwiązania tych problemów.
3. Czy są dostępne inne generatory obrazów AI?
Kilka firm oferuje generatory obrazów AI podobne do Copilot Designer, ale każdy z nich może mieć własne uprzedzenia i ograniczenia. Użytkownicy powinni zachować ostrożność i być świadomi potencjalnych uprzedzeń obecnych w tych systemach.
4. Czy istnieją jakieś inicjatywy mające na celu redukcję uprzedzeń w systemach AI?
W branży podejmowane są wysiłki w celu zwalczania uprzedzeń w systemach AI. Jednak złożona natura danych treningowych i możliwość pojawienia się uprzedzeń w modelach AI wymagają ciągłych badań i rozwoju.
Źródła:
Microsoft Copilot Designer: Microsoft
Google Gemini: Google
The source of the article is from the blog macnifico.pt