W świecie sztucznej inteligencji (AI) zdarzenie z udziałem chatbota Gemini Google rzuciło światło na wyzwania związane z eliminacją kulturowego uprzedzenia w narzędziach technologicznych. Chatbot generował obrazy czarnoskórych i azjatyckich nazistowskich żołnierzy, wywołując oburzenie i zwracając uwagę na potencjalne konsekwencje niekontrolowanej władzy AI.
Prezes Google Sundar Pichai potępił błędy popełnione przez aplikację AI Gemini, uznając, że wygenerowane obrazy były historycznie nietrafione, i zalecając tymczasowe wstrzymanie generowania zdjęć ludzi. Reakcja społeczeństwa na to zdarzenie stanowi przypomnienie o niesamowitym wpływie, jaki kilka gigantów technologicznych ma nad platformami AI, które mają potencjał odmienić społeczeństwo.
Joshua Weaver, prawnik i przedsiębiorca technologiczny, opisuje działania Google jako zbyt „zapalone,” sugerując, że firma poszła za daleko w próbie priorytetowego traktowania włączenia i zróżnicowania. Podczas gdy Google szybko poprawił swoje błędy, Charlie Burgoyne, dyrektor generalny laboratorium nauk stosowanych Valkyrie, uważa, że takie poprawki dotyczą tylko powierzchniowego problemu, zaniedbując rozwiązanie podstawowego problemu.
Google, wraz z innymi gigantami technologicznymi, uczestniczy obecnie w wyścigu z firmami takimi jak Microsoft, OpenAI i Anthropic. Ta zwiększona konkurencja pozostawia niewielkie pole dla firm do doskonalenia swoich produktów w długim okresie. Błędy popełnione w dążeniu do wrażliwości kulturowej stają się istotnymi punktami zapalnymi, zwłaszcza wobec politycznie podzielonego klimatu w Stanach Zjednoczonych.
W miarę rozwoju AI generowanie ogromnych ilości informacji, pojawia się pytanie o to, kto kontroluje zabezpieczenia AI. Potencjał fałszywych informacji i wzmacniania uprzedzeń podnosi obawy dotyczące wpływu tych, którzy kontrolują systemy AI. Ostatnia gafa skłoniła ekspertów do zastanowienia się nad poziomem kontroli, jaką mają użytkownicy nad narzędziami AI i informacjami, jakie produkują.
Karen Palmer, nagradzana twórczyni rzeczywistości mieszanej, spekuluje na temat przyszłości, w której AI może mieć wpływ na istotne decyzje, takie jak kierowanie osób z nieuregulowanymi naruszeniami do posterunku policji zamiast na ich zamierzone miejsca przeznaczenia. Szkolenie modeli AI w dużej mierze polega na istniejących danych, które inherentnie zawierają uprzedzenia, niesprawiedliwości społeczne i dezinformację.
Podjęcie przez inżynierów wysiłku w kierunku zrównoważenia algorytmów, aby odzwierciedlić różnorodność ludzką, stanowi ogromne wyzwanie. Prawnik technologiczny Alex Shahrestani podkreśla trudność w wykrywaniu i eliminowaniu uprzedzeń, gdy nawet dobrze zorganizowani inżynierowie są wpływani przez swoje życiowe doświadczenia i podświadome uprzedzenia. Ponadto brak przejrzystości w działaniu modeli generatywnych AI pogarsza problem, uniemożliwiając użytkownikom identyfikację ukrytych uprzedzeń.
Eksperci i aktywiści domagają się większej różnorodności w zespołach rozwojowych AI oraz większej przejrzystości dotyczącej funkcjonowania narzędzi AI. Istotne jest uwzględnienie perspektyw z różnych społeczności na całym świecie i opracowywanie algorytmów, które etycznie wykorzystują ich dane. Ten podejście, stosowane przez AI Rdzennych i podobne organizacje, przeciwdziała podejściu odgórnemu obserwowanemu w branży technologicznej i promuje rozwój AI inlkluzywny i kulturowo wrażliwy.
Incident z chatbotem Gemini Google służy jako wybudzenie dla przemysłu technologicznego, aby priorytetowo traktować wrażliwość kulturową i zróżnicowanie w narzędziach AI. Poprzez bezpośrednie przejmowanie się tymi wyzwaniami i zaangażowanie szerokiego spektrum perspektyw w procesie rozwoju, branża może zminimalizować ryzyko uprzedzeń i zwiększyć pozytywny wpływ technologii AI.
The source of the article is from the blog maestropasta.cz