Искусственные генераторы изображений AI имеют значительное влияние на индустрию создания цифрового контента. Эти инструменты используют алгоритмы искусственного интеллекта для создания реалистичных изображений на основе заданных запросов или ввода данных. Однако недавние открытия показали наличие стойких предвзятостей в AI-моделях, вызывая опасения относительно точности и справедливости этих систем.
Одним из ярких примеров является AI-генератор изображений Meta под названием «Imagine», который проявил определенную предвзятость при создании изображений для определенных межрасовых отношений. Из расследования The Verge стало известно, что при запросе на генерацию изображений «азиатский мужчина и кавказский друг» или «азиатский мужчина и белая жена», приложение постоянно создавало изображения двух азиатов, а не подходящей пары межрасовых партнеров. Эта предвзятость заслуживает внимания, учитывая, что генеральный директор Meta, Марк Цукерберг, женат на азиатке Присцилле Чан.
Дополнительные исследования от Gizmodo показали, что Meta’s Imagine не столкнулся с такими же сложностями при создании изображений других межрасовых пар, таких как белый мужчина и азиатская женщина. Эти результаты подчеркивают наличие скрытых предвзятостей и недостатков в данных, используемых для обучения систем создания изображений на основе искусственного интеллекта.
Imagine от Meta не единственный случай. В феврале Google столкнулся с контроверзой, когда его генератор изображений Gemini создал разнообразные по расовому признаку изображения нацистов, что привело к его закрытию. Этот инцидент показал опасности попыток внедрения разнообразия без должного контроля и проверки качества.
Критики утверждают, что эти предвзятости возникают из-за обширного использования данных из интернета для обучения систем искусственного интеллекта генерации изображений. Поскольку интернет отражает существующие расовые стереотипы и предвзятости, AI-модели непреднамеренно поддерживают их. Хотя предпринимаются усилия по устранению этих предвзятостей, они еще недостаточны для решения корневых проблем.
Проблемы с точностью и объективностью сталкиваются не только генераторы изображений. AI-чатботы также испытывают трудности с правдивостью и логичными высказываниями, отражая проблемы, с которыми сталкиваются генераторы изображений.
Важно, чтобы крупные технологические гиганты, стоящие во главе разработки систем искусственного интеллекта, придавали приоритет устранению предвзятостей и исправлению недостатков в своих технологиях. Расовые предвзятости в технологиях не могут быть рассматриваемыми как изолированные случаи, они требуют комплексных решений для переформатирования ландшафта.
В заключение, развитие AI-генераторов изображений преобразовало создание цифрового контента. Однако наличие предвзятостей в этих моделях искусственного интеллекта, как видно на примере Imagine от Meta и Gemini от Google, вызывает обеспокоенность о справедливости и точности этих систем. Технологической индустрии необходимо приложить усилия для комплексного решения этих предвзятостей и переформатирования ландшафта технологий искусственного интеллекта к лучшему.
Источники:
— В оригинальной статье не было упомянуто конкретных источников.
[Встроенное видео](https://www.youtube.com/embed/lJIjDbrjxtg)
**ЧаВо:**
В: Что такое генераторы изображений AI?
О: Генераторы изображений AI — это инструменты или системы, работающие на искусственном интеллекте и способные генерировать реалистичные изображения на основе определенных вводов или запросов.
В: Могут ли генераторы изображений AI иметь предвзятости?
О: Да, генераторы изображений AI могут иметь предвзятости из-за данных, на которых они обучены, которые часто отражают существующие расовые стереотипы и общественные предвзятости.
В: В чем проблема с AI-генератором изображений Imagine от Meta?
О: Imagine от Meta столкнулся с трудностями при создании точных изображений некоторых межрасовых отношений, постоянно создавая изображения двух азиатов вместо заданной межрасовой пары.
В: Является ли предвзятость распространенной проблемой в технологиях AI?
О: Да, предвзятость является распространенной проблемой в технологиях AI, затрагивая различные приложения, включая генераторы изображений, чатботы и другие системы AI.
В: Как технологические гиганты борются с этими предвзятостями?
О: Технологические гиганты стремятся бороться с предвзятостями в системах AI. Однако еще много работы предстоит, чтобы эффективно устранить предвзятости и обеспечить справедливость и объективность технологий AI.
The source of the article is from the blog meltyfan.es