V dynamickém světě umělé inteligence (AI) nedávný incident týkající se chatbota Google Gemini přinesl názorné ukázání výzev, které přináší odstraňování kulturního zkreslení v technologických nástrojích. Chatbot vytvářel obrázky černých a asijských nacistických vojáků, což vyvolalo rozhořčení a ukázalo na potenciální následky nekontrolované moci umělé inteligence.
CEO Google Sundar Pichai odsoudil chyby spáchané aplikací Gemini AI, uznal, že vytvořené obrázky byly historicky nepřesné, a podpořil dočasné zastavení generování obrázků lidí. Veřejná reakce na tento incident slouží jako připomenutí obrovského vlivu, který několik technologických obrů má na platformy AI, jež mají potenciál přetvořit společnost.
Joshua Weaver, právník a technologický podnikatel, popsává kroky Googlu jako příliš „probuzené,“ naznačuje, že společnost šla příliš daleko ve snaze upřednostnit začlenění a diverzitu. Zatímco Google rychle napravil své chyby, Charlie Burgoyne, CEO laboratoře aplikované vědy Valkyrie, věří, že takové opravy se pouze zabývají povrchovým problémem a nedokáží řešit hlubší problém.
Google spolu s dalšími technologickými obrateli je nyní zapojen v závodu AI s podniky jako Microsoft, OpenAI a Anthropic. Tato zvýšená konkurence nechává malý prostor společnostem, aby zlepšily své produkty v delším časovém horizontu. Chyby vytvořené v zájmu kulturní citlivosti se stávají významnými body, zvláště vzhledem k politicky rozdělenému klimatu ve Spojených státech.
Když AI stále více generuje obrovské množství informací, stává se zásadní otázkou, kdo kontroluje ochrany AI. Potenciál pro šíření dezinformací a zesilování zkreslení vyvolává obavy ohledně vlivu těch, kdo ovládají AI systémy. Nedávný trapas přiměl odborníky k položení otázky, jaký stupeň kontroly mají uživatelé nad AI nástroji a nad informacemi, které produkují.
Karen Palmer, oceněná tvůrkyně smíšené reality, spekuluje o budoucnosti, ve které může mít AI vliv na důležité rozhodování, jako je odklonění jednotlivců s nevyřešenými přestupky na policejní stanici místo jejich zamýšlených destinací. Trénování AI modelů je těžce závislé na existujících datech, která v sobě inherentně nesou zkreslení, sociální nerovnosti a dezinformace.
Inženýři, kteří se snaží znovu vyvážit algoritmy tak, aby odrážely lidskou diverzitu, čelí obrovské výzvě. Technologický právník Alex Shahrestani zdůrazňuje obtížnost detekce a řešení zkreslení, protože i dobře mínění inženýři jsou ovlivněni svými osobními zkušenostmi a podvědomými zkresleními. Navíc nedostatek transparentnosti okolo fungování generativních AI modelů zhoršuje problém, brání uživatelům v identifikaci skrytých zkreslení.
Odborníci a aktivisté volají po větší diverzitě v týmech vyvíjejících AI a po větší transparentnosti ohledně fungování AI nástrojů. Je zásadní zahrnout perspektivy z různorodých komunit po celém světě a vybudovat algoritmy, které eticky využívají jejich data. Tento přístup, který uplatňují organizace jako Indigenous AI a podobné, se staví proti shora dolů zaměřenému přístupu pozorovanému v technologickém průmyslu a podporuje inkluzivní a kulturně citlivý vývoj AI.
Incident s chatbotem Google Gemini by měl sloužit jako výzva pro technologický průmysl, aby upřednostnil kulturní citlivost a diverzitu v AI nástrojích. Tím, že se tyto výzvy budou řešit přímo a zapojením širokého spektra perspektiv během celého vývojového procesu, může průmysl minimalizovat rizika zkreslení a zlepšit pozitivní dopad technologie AI.
FAQ
Jaký byl kontroverze ohledně chatbota Google Gemini?
Chatbot generoval obrázky černých a asijských nacistických vojáků, což vyvolalo rozhořčení svými historicky nepřesnými ztvárněními.
Proč je kulturní zkreslení v AI nástrojích závažný problém?
Modely AI těžce spoléhají na existující data, která často obsahují zkreslení, sociální nerovnosti a dezinformace. Nezkontrolované zkreslení v AI nástrojích může podporovat diskriminaci a zesilovat existující společenská předsudky.
Jak mohou vývojáři AI řešit kulturní zkreslení?
Odborníci navrhují diverzifikaci týmů vyvíjejících AI, aby zahrnovaly široké spektrum perspektiv. Kromě toho je transparentnost v fungování AI nástrojů klíčová pro identifikaci a řešení skrytých zkreslení.
Jaké jsou následky nekontrolované moci AI?
AI má potenciál přetvářet společnost a ovlivňovat důležitá rozhodnutí. Nedostatek řešení zkreslení a implementace odpovídajících ochran může vést k nespravedlivému zacházení, dezinformacím a nedostatku odpovědnosti v AI systémech.
The source of the article is from the blog publicsectortravel.org.uk