Google recientemente enfrentó desafíos con su creador de texto a imagen en Gemini (anteriormente Bard), el cual produjo imágenes ofensivas y embarazosas. La compañía reconoció sus errores y pausó temporalmente la herramienta para realizar pruebas extensas. El CEO de Google, Sundar Pichai, reforzó las disculpas a los empleados, indicando que las respuestas ofensivas eran inaceptables. Pichai detalló las medidas que Google tomaría para rectificar el problema, incluyendo cambios estructurales, directrices mejoradas, procesos de lanzamiento mejorados y recomendaciones técnicas.
La competencia en el mercado emergente de la IA generativa es intensa para Google, ya que rivales como OpenAI, Microsoft, Meta y Anthropic luchan por la supremacía. Google no solo busca arreglar Gemini, sino también expandir los límites de su tecnología de IA. Con este fin, Google recientemente pagó a un grupo de editores independientes para utilizar una versión beta de una plataforma gen IA no anunciada para escribir historias de noticias. La plataforma permite a los editores generar un volumen fijo de contenido, incluyendo artículos, boletines y campañas de marketing, manteniendo la relevancia de su audiencia.
Google aclaró que el proyecto no es para republicar el trabajo de otras fuentes, sino más bien un experimento para apoyar a los periodistas en la producción de periodismo de alta calidad utilizando contenido factual de fuentes de datos públicos. Se enfatiza que estas herramientas no pretenden reemplazar el papel esencial de los periodistas, sino más bien ayudarles.
Como parte de la Iniciativa de Noticias de Google lanzada en 2018, este programa tiene como objetivo brindar a los editores oportunidades para lograr más con recursos limitados. Al aglutinar y resumir informes recientemente publicados, los editores pueden crear eficientemente nuevos artículos basados en información de agencias gubernamentales o fuentes de noticias cercanas.
Además, Google está explorando la IA más allá del texto e imágenes. Su subsidiaria, DeepMind, ha presentado a Genie, un modelo de IA capaz de crear mundos virtuales jugables. Estos mundos en 2D pueden diseñarse con varios estilos visuales y utilizarse para entrenar «agentes encarnados» como robots, demostrando la versatilidad de la tecnología de IA de Google.
En otras noticias de IA, Elon Musk, quien previamente contribuyó a la creación de OpenAI, ha presentado una demanda contra la compañía y el CEO Sam Altman. Musk acusa a OpenAI de priorizar las ganancias sobre su compromiso de beneficiar a la humanidad, afirmando que la compañía se ha transformado en un emprendimiento con fines de lucro a través de su colaboración con Microsoft. Las preocupaciones de Musk sobre los riesgos potenciales de la IA para la humanidad motivaron su participación en la demanda.
En resumen, los desafíos enfrentados por Google sirven como un recordatorio de que los sistemas de IA no son infalibles, pero el compromiso con la excelencia y la mejora continua sigue siendo inquebrantable. A medida que el mercado de la IA generativa evoluciona, empresas como Google deben priorizar el uso ético y responsable de la tecnología de IA mientras empujan los límites de la innovación.
The source of the article is from the blog mivalle.net.ar