Инженер Microsoft, Шейн Джонс, предупреждает об опасностях потенциального использования AI-генератора изображений, Copilot Designer. Джонс, в интервью с CNBC, выразил опасения по поводу тревожных и странных изображений, созданных этим инструментом. Несмотря на усилия по привлечению внимания внутри Microsoft, Джонс обратился к правительственным регуляторам для вмешательства.
Один из примеров, приведенных Джонсом, включает в себя генерацию AI-изображения демонов и крови при запросе фразы «про-выбор». Другой случай включал изображения сексуализированных женщин в нижнем белье рядом с жестокими автомобильными катастрофами при запросе «авария». В то время как Джонс признает, что эти изображения нарушают руководящие принципы Responsible AI компании Microsoft, компания не отреагировала должным образом на его запросы о приостановке генератора изображений.
Copilot Designer работает на базе генератора изображений Dall-E 3 от OpenAI, а также других AI-инструментов от Microsoft. Несмотря на критику и проблемы с модерацией контента, Microsoft кажется не склонна приостановить Copilot Designer. Тем не менее, недавние инциденты с другими AI-генераторами изображений, такими как временная приостановка Google Gemini из-за проблем безопасности, указывают на постоянные вызовы обеспечения должных гарантий для продуктов AI.
Широкий вопрос модерации контента и обеспечения безопасности в AI-инструментах вызвал значительную контроверсию. В то время как эти инструменты имеют потенциал генерировать инновационный и креативный контент, отсутствие эффективных мер безопасности вызывает вопросы относительно их влияния на общественные нормы и ценности. По мере продвижения технологий находить баланс между креативностью и ответственной реализацией AI остается ключевой задачей как для разработчиков, так и для регуляторов.
ЧаВО:
Q: Что представляет собой AI-генератор изображений компании Microsoft, Copilot Designer?
A: Copilot Designer — это AI-инструмент, разработанный компанией Microsoft, который генерирует изображения на основе запросов и ввода пользователей.
Q: Какие опасения были высказаны относительно Copilot Designer?
A: Инженер Шейн Джонс выразил опасения относительно тревожных и странных изображений, созданных Copilot Designer. Он заметил случаи, когда инструмент генерировал изображения демонов и крови при запросе определенных фраз, а также сексуализированных женщин в нижнем белье рядом с жестокими автомобильными катастрофами.
Q: Отреагировала ли Microsoft на опасения, высказанные относительно Copilot Designer?
A: Несмотря на усилия Джонса привлечь внимание в Microsoft, компания не отреагировала должным образом на его запросы о приостановке генератора изображений.
Q: Что представляет собой AI-генератор изображений Dall-E 3?
A: Dall-E 3 — это генератор изображений, разработанный OpenAI, который используется Copilot Designer, а также другими AI-инструментами от Microsoft.
Q: Рассматривала ли Microsoft возможность приостановки Copilot Designer?
A: Несмотря на критику и проблемы с модерацией контента, Microsoft кажется не склонна приостановить Copilot Designer, что указано на реакции компании на опасения Джонса.
Q: Стояли ли перед другими AI-генераторами изображений проблемы безопасности?
A: Да, инциденты с другими AI-генераторами изображений, такими как Google Gemini, привели к временной приостановке из-за проблем безопасности.
Ключевые Термины и Жаргон:
— AI: Искусственный Интеллект, относится к разработке компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта.
— Генератор изображений: Относится к программному обеспечению или AI-инструментам, способным создавать или генерировать изображения на основе различных входных данных или запросов.
— Модерация контента: Действие мониторинга и контроля онлайн-контента для обеспечения его соответствия определенным нормам или стандартам.
— Меры безопасности: Меры или предосторожности, предпринимаемые для защиты от потенциальных рисков или опасностей.
— Общественные нормы и ценности: Относится к принятым поведенческим стандартам, отношениям и убеждениям в конкретном обществе или сообществе.
Предполагаемые Связанные Ссылки:
— Microsoft
— OpenAI
— CNBC
The source of the article is from the blog scimag.news