El generador de imágenes de inteligencia artificial de Microsoft, Copilot Designer, está bajo escrutinio mientras el ingeniero Shane Jones advierte sobre sus posibles peligros. Jones, en una entrevista con CNBC, expresó preocupaciones sobre las imágenes perturbadoras y extrañas producidas por la herramienta. A pesar de sus esfuerzos por crear conciencia dentro de Microsoft, Jones ahora se ha dirigido a los reguladores gubernamentales para intervenir.
Uno de los ejemplos citados por Jones incluye al generador de imágenes de IA generando imágenes de demonios y sangre cuando se le solicitó la frase «pro-elección». Otro caso involucró imágenes de mujeres sexualizadas en lencería junto a violentos accidentes automovilísticos cuando se le solicitó «accidente automovilístico». Aunque Jones reconoce que estas imágenes violan las pautas de IA responsable de Microsoft, la empresa no ha respondido adecuadamente a sus solicitudes de suspender el generador de imágenes.
Copilot Designer opera en el generador de imágenes de OpenAI, Dall-E 3, junto con otras herramientas de IA de Microsoft. A pesar de enfrentar críticas y problemas con la moderación de contenido, Microsoft parece poco dispuesto a pausar Copilot Designer. Sin embargo, incidentes recientes con otros generadores de imágenes de IA, como la pausa temporal de Google Gemini debido a preocupaciones de seguridad, indican los desafíos continuos en proporcionar salvaguardias adecuadas para los productos de IA.
El problema más amplio de la moderación de contenido y las salvaguardias en herramientas de IA ha provocado una controversia significativa. Si bien estas herramientas tienen el potencial de generar contenido innovador y creativo, la falta de salvaguardias efectivas plantea preocupaciones sobre su impacto en las normas y valores sociales. A medida que la tecnología continúa avanzando, encontrar un equilibrio entre la creatividad y la implementación responsable de la IA sigue siendo un desafío crucial tanto para desarrolladores como para reguladores.
**Sección de Preguntas Frecuentes:**
P: ¿Qué es Copilot Designer, el generador de imágenes de IA de Microsoft?
R: Copilot Designer es una herramienta de IA desarrollada por Microsoft que genera imágenes basadas en indicaciones y entradas de usuario.
P: ¿Qué preocupaciones se han planteado sobre Copilot Designer?
R: El ingeniero Shane Jones ha expresado preocupaciones sobre las imágenes perturbadoras y extrañas generadas por Copilot Designer. Observó casos en los que la herramienta produjo imágenes de demonios y sangre cuando se le solicitaban ciertas frases, así como mujeres sexualizadas en lencería junto a violentos accidentes automovilísticos.
P: ¿Microsoft ha respondido a las preocupaciones planteadas sobre Copilot Designer?
R: A pesar de los esfuerzos de Jones por crear conciencia dentro de Microsoft, la empresa no ha respondido adecuadamente a sus solicitudes de suspender el generador de imágenes.
P: ¿Qué es el generador de imágenes de IA, Dall-E 3?
R: Dall-E 3 es un generador de imágenes desarrollado por OpenAI que es utilizado por Copilot Designer, junto con otras herramientas de IA de Microsoft.
P: ¿Microsoft ha considerado pausar Copilot Designer?
R: A pesar de enfrentar críticas y problemas de moderación de contenido, Microsoft parece poco dispuesto a pausar Copilot Designer, según la respuesta de la empresa a las preocupaciones de Jones.
P: ¿Otros generadores de imágenes de IA han enfrentado preocupaciones de seguridad?
R: Sí, incidentes relacionados con otros generadores de imágenes de IA, como Google Gemini, han llevado a pausas temporales debido a preocupaciones de seguridad.
**Términos Clave y Jerga:**
– IA: Inteligencia Artificial, se refiere al desarrollo de sistemas informáticos que pueden realizar tareas que normalmente requieren inteligencia humana.
– Generador de imágenes: Se refiere al software o herramientas de IA que pueden crear o generar imágenes basadas en diversas entradas o indicaciones.
– Moderación de contenido: El acto de monitorear y controlar el contenido en línea para asegurar que cumpla con ciertas pautas o estándares.
– Salvaguardias: Medidas o precauciones establecidas para proteger contra posibles riesgos o peligros.
– Normas y valores sociales: Se refiere al comportamiento, actitudes y creencias aceptadas dentro de una sociedad o comunidad específica.
**Enlaces Relacionados Sugeridos:**
– Microsoft
– OpenAI
– CNBC
The source of the article is from the blog windowsvistamagazine.es