Експертите по технологии подчертават необходимостта от по-широк поглед в развитието на изкуствен интелект (AI), за да се създадат репрезентации, които отразяват реалното разнообразие на жените. Скорошният експеримент на в.“The Washington Post“ с генератори на изображения на AI – Dalle-E на OpenAI, Midjourney и Stable Diffusion – показва дестабилизираща тенденция: повечето изображения изобразяваха жени със стандартни красотни топерове, като бието млади, стройни, с големи очи и устни, и дълга, често тъмна, коса.
Като променят входа на „нормална жена“, системите на AI показват по-голямо разнообразие във възрастта и прическата, но все пак се придържат към ограничен палитър в отношение на стил и цвят на облеклото – често неутрален, мек и минималистичен, с преобладаване на панталони. Въпреки това, когато AI беше насърчено да генерира изображения на жени със заеква маса, репрезентациите показваха само слабо наднадебелина, което не съответства на реалността, че над 40% от възрастните в САЩ са ограбени. Освен това, когато инструкциите изискваха преувеличени черти, като „по-широк нос“ или „по-грозна жена“, получените изображения бяха неестествени и дори неуважителни, оставяйки да се усети етично спорните елементи, програмирани в AI, или умишлено или невнимателно.
Източниците, използвани за обучението на AI системите, често се цитират като корен на проблема, тъй като визията на жените, представена в тези приложения, изглежда да бъде влияна от анимета, видео игри, филми със супергерои и дори стари дисни разкази. Особено тревожен факт е, че много AI алгоритми първоначално бяха обучени на изображения от уебсайтове за възрастни, което въвежда дълбоко проблематични предразсъдъци, които разработчиците в момента се опитват да изтрият.
Противодействието на ‘просънет AI, който излишно се фокусира върху половите и расовите аспекти, вече е започнало, призовавайки индустрията да премисли върху важността на етиката в програмирането и да въведе реалистичен и инклузивен набор от изживявания в изкуствените интелигентни репрезентации.
Важността на разнообразните гледни точки в AI
Необходимостта от включване на разнообразни гледни точки в програмирането на изкуствен интелект (AI) възниква от целта да се създадат технологии, които са справедливи, безпристрастни и отразяват глобалното население. Монокултурната или ограничена гледна точка по време на процеса на развитие може да доведе до липса на репрезентация и разпространение на стереотипи. Използването на разнообразни обучителни набори от различни демографски данни е от съществено значение за постигане на обективни AI системи.
Основни въпроси и предизвикателства
Основните въпроси включват:
1. Как може разнообразието в AI да бъде ефективно измерено и подобрено?
2. Какви са последствията от предразсъдъчния AI върху обществото?
3. Кой носи отговорност за осигуряване на разнообразие в AI?
Намирането на отговори на тези въпроси включва справяне с ключови предизвикателства:
– Осигуряване на отбори, които проектират и обучават AI, които включват широка гама от задължения и перспективи.
– Идентифициране и източници на данни, които са освободени от исторически предразсъдъци и представляват истинското разнообразие на населението.
– Развиване на алгоритми, които не укрепват стереотипи или дискриминират нито една група.
– Въвеждане на прозрачни насоки и механизми за аудит на обучението и резултатите на AI.
Контроверзии
Дискусиите често възникват във връзка с баланса между етичното програмиране и свободата на разработчиците да създадат AI в основа на пазарното търсене. Освен това, степента, до която AI трябва да бъде ‘просън’, е спорна, тъй като различните сектори на обществото имат различни възгледи за политическата коректност и представителността.
Предимства и Недостатъци
Предимства:
– Разнообразният AI може да помогне за ограничаване на стереотипите и предразсъдъците.
– Това позволява генерирането на по-инклузивни и представителни данни.
– Разнообразието в AI може да доведе до по-добро вземане на решения и прогнозиране, тъй като би включило по-широк спектър от човешки изживявания.
Недостатъци:
– Големите и разнообразни обучителни набори могат да бъдат предизвикателни и скъпи за събиране и поддържане.
– Има риск от обратна реакция от сектори на обществото, които може да видят тези усилия като ненужни или твърде политически коректни.
– Постоянното наблюдение и актуализиране на AI системите, за да отразяват обществените промени, може да бъде сложно и изискващо значителни ресурси.
За подробни прегледи и продължаващи диалози относно AI и разнообразието, разгледайте реномирани технически и AI фокусирани уебсайтове, като AI Lab на MIT или DeepMind.
The source of the article is from the blog kewauneecomet.com