Новые генераторы изображений на основе искусственного интеллекта сталкиваются со сложностями в создании точных изображений азиатско-белых пар, что вызывает волну обсуждений в сообществе. Хотя эти системы стремятся расширить возможности взаимодействия и выражения, они часто не могут адекватно отобразить азиатских людей при создании изображий по простым запросам.
Одним из примеров подобных проблем является AI-генератор изображений Meta на Instagram, который не смог создать изображение азиата и белой женщины при использовании общих запросов. Вместо этого каждый раз менял расу женщины на азиатскую. Хотя позже Meta снова сделал изображения доступными, проблема с заменой расы осталась.
Подобные проблемы были замечены и с другими моделями искусственного интеллекта. Пользователи сталкиваются с сообщениями об ошибках или постоянными заменами расы при создании изображений с запросами, связанными с азиатами и белыми женщинами.
Что необходимо знать о генераторах изображений на основе AI
Генераторы изображений на основе искусственного интеллекта: Это программные инструменты, способные создавать изображения с использованием алгоритмов машинного обучения.
Системы обучения: Наборы данных и правил, по которым работают генераторы изображений, определяющие их способность создавать реалистичные изображения.
Азиатско-белые пары: Партнеры разных рас, один из которых азиат, а другой — белый.
Реакция на события вокруг Gemini: замороженный генератор картинок
В конце февраля генератор Gemini от Google столкнулся с уникальной проблемой. Он случайно создал изображения расово разнообразных нацистов в попытке достичь разнообразного представления. В результате Google приостановил возможность Gemini генерировать изображения людей. Возможно, что генератор вернется в марте, но пока что он остается недоступным.
Тем не менее, Gemini все еще может создавать изображения без людей, что представляет собой частичное решение для пользователей, ищущих изображения не-людей.
Вызовы с DALL-E 3 и Midjourney от ChatGPT
И Dall-E 3, и Midjourney от ChatGPT испытывают сложности в точном отображении азиатов и белых женщин по конкретным запросам. Хотя сгенерированные изображения не были полностью неверными, они не удовлетворили ожидания. Эти расхождения указывают на скрытые предвзятости в наборах данных, используемых этими системами.
Midjourney, в частности, в конце концов создал изображения, представляющие азиата и белую женщину в отношениях, но только в ответ на запрос, связанный с учебной обстановкой. Это вызывает вопросы о предвзятостях, заложенных в этих моделях, и контекстах, в которых они могут точно представлять межрасовые пары.
Исследование последнего прогресса Мета AI
Когда речь идет о Meta AI через Instagram, генератор изображений продемонстрировал улучшение в отображении небелых мужчин с белыми женщинами. Он справился с запросами типа «белая женщина и азиатский муж» или «американец азиатского происхождения и белый друг». Тем не менее, иногда он сталкивался с трудностями при текстовых запросах относительно разных рас и иногда создавал изображения двух чернокожих людей вместо этого.
По мере развития этих генераторов изображений на основе искусственного интеллекта, некоторые общие закономерности стали очевидны. Женщины всех рас часто носят одно и то же белое цветочное безрукавное платье, а цветы часты в изображениях пар, особенно с азиатскими парнями. Кроме того, имеются повторяющиеся стереотипы, связанные с изображением мускулистых чернокожих мужчин и преимущественно блондинок или рыжих белых женщин.
Портавец Meta Трейси Клейтон признала, что технология не идеальна, и подчеркнула важность решения этих несоответствий и предвзятостей для обеспечения более инклюзивного представления через AI-созданные изображения.
Часто задаваемые вопросы
Почему генераторы изображений на основе AI испытывают сложности с созданием точных изображений азиатско-белых пар?
Генераторы изображений на основе искусственного интеллекта сталкиваются с трудностями в точном изображении азиатско-белых пар из-за предвзятости в наборах данных и скрытых расовых алгоритмов. Эти предвзятости могут привести к замене расы или непоследовательным представлениям.
Какие общие закономерности наблюдаются в созданных генераторами изображений на AI?
Некоторые общие закономерности включают в себя ношение женщин всех рас одинакового белого цветочного безрукавного платья и наличие цветов на изображениях пар, особенно с азиатскими парнями. Кроме того, повторяются стереотипы, такие как изображение мускулистых чернокожих мужчин и преимущественно блондинок или рыжих белых женщин.
Каким образом можно улучшить генераторы изображений на основе AI для решения этих проблем?
Для решения этих проблем генераторам изображений на основе искусственного интеллекта необходимы разнообразные и репрезентативные наборы обучающих данных. Это включает в себя обеспечение сбалансированного представления различных рас, возрастов, типов телосложения и отношений для избежания укрепления стереотипов и предвзятостей. Кроме того, разработчики должны активно работать над минимизацией замены рас и стремиться к точному и включительному отображению.
Источник: The Verge
The source of the article is from the blog lisboatv.pt