El panorama de las aplicaciones de inteligencia artificial está cambiando desde la nube hacia entornos de escritorio. Este cambio anuncia una nueva generación de sistemas de IA que se ejecutan directamente en máquinas locales, ofreciendo una serie de beneficios.
La rentabilidad es una ventaja destacada de la implementación de IA local. Si bien la computación de IA basada en la nube es potente, también es conocida por sus altos costos operativos. La ejecución local de soluciones de Inteligencia Artificial Generativa (GenAI) se ha convertido en un enfoque estratégico para una implementación empresarial rentable.
Varios desafíos asociados con la IA en la nube también se abordan con este cambio. Los tiempos de respuesta mejorados, la reducción de la tensión en la red y la mejora de la privacidad de los datos son principales entre estos. Como se destaca en un estudio de investigación de Forrester, ejecutar grandes modelos de lenguaje en una computadora personal elimina la necesidad de enviar datos sensibles a través de Internet o a proveedores de servicios externos.
Reconociendo este potencial, gigantes tecnológicos han comenzado a adaptar sus ofertas. Microsoft e Intel, por ejemplo, se han comprometido a trasladar su sistema Copilot de la nube a la PC. James Howell, Gerente General de Windows en Microsoft, percibe esto como un momento crucial para TI empresarial.
Clientes importantes como Atlassian, Air India y Bayer se están preparando para personalizar e integrar Copilot en sus herramientas comerciales, lo que indica una fuerte recepción en el mercado.
Más allá de Copilot, un emocionante desarrollo en la arquitectura de la computación personal promete facilitar una amplia gama de aplicaciones de IA. En el corazón de esta innovación se encuentra la Unidad de Procesamiento Neural (NPU), un componente específicamente diseñado para acelerar cargas de trabajo de IA, fundamentalmente diferente de las CPUs y las GPUs.
Las NPUs están diseñadas para ser increíblemente eficientes energéticamente mientras ejecutan multiplicaciones de matrices, una operación básica en redes neuronales, a altas velocidades y a una escala masivamente paralela. Su introducción en los sistemas es una solución a las altas demandas de energía de las GPUs que tradicionalmente se utilizan para tales tareas.
Intel ha integrado una NPU junto a la CPU y la GPU en su sólido procesador Core Ultra, capaz de lograr 34 billones de operaciones por segundo (TOPS). Este trío forma la arquitectura Hibrida de rendimiento en 3D, potenciando una multitud de funciones mejoradas con IA adaptadas para la nueva plataforma de Intel.
Se están realizando esfuerzos para optimizar más de 500 modelos de IA para los nuevos procesadores Core Ultra, facilitados por plataformas populares como OpenVINO, Hugging Face, ONNX Model Zoo y PyTorch. Esto mejorará las capacidades de inferencia de IA local en varios dominios estándar, incluido el procesamiento del lenguaje, la visión por computadora y más.
Intel ha actualizado gran parte de su software para PC de IA, con avances significativos en su plataforma vPro. vPro® Enterprise for Windows ha sido reiniciado para aprovechar el potencial de los procesadores Core Ultra, brindando beneficios sólidos en seguridad, administración y estabilidad de la flota de PC.
Con una gran demanda del mercado pronosticada por IDC, se proyecta que las PCs de IA comprendan el 60 por ciento de todos los envíos de PC para 2027. Fortalecido por avances continuos, como el próximo procesador «Lunar Lake» de Intel que se espera supere los 100 TOPS, con la NPU contribuyendo con 45 TOPS, la era de la inteligencia artificial local no está solo en el horizonte, ya ha comenzado.
El tema de la IA en dispositivos o la inteligencia en máquinas localizadas es un campo en evolución que lleva la capacidad de computación de vuelta al borde, ya sea en un teléfono inteligente, PC, dispositivo IoT o incluso un vehículo autónomo. Aquí hay algunos puntos que amplían el contenido del artículo y que pueden ser relevantes:
– Ventajas:
– Privacidad de los Datos: La IA local mejora significativamente la privacidad, ya que el procesamiento de datos se realiza directamente en el dispositivo, minimizando la exposición de información sensible.
– Procesamiento en Tiempo Real: La IA en el dispositivo puede operar con una latencia mínima, lo que la hace adecuada para aplicaciones que requieren toma de decisiones en tiempo real.
– Disponibilidad Constante: Los sistemas de IA en el dispositivo pueden funcionar incluso sin conexión, a diferencia de los servicios basados en la nube que requieren una conexión a Internet constante.
– Eficiencia Energética: Las NPUs y otro hardware especializado pueden realizar tareas de IA de manera más eficiente que los procesadores de propósito general, lo que lleva a ahorros energéticos.
– Desafíos Clave:
– Limitaciones del Hardware: La IA en el dispositivo debe enfrentar las limitaciones de rendimiento del hardware local que podrían no coincidir con las capacidades de los centros de datos en la nube.
– Optimización de Software: Optimizar modelos de IA para diferentes dispositivos y arquitecturas de hardware puede ser complejo y llevar mucho tiempo.
– Compatibilidad: Asegurar que las nuevas aplicaciones de IA sean compatibles en la amplia variedad de dispositivos que podrían usarlas es un desafío significativo.
– Controversias:
– Existen preocupaciones sobre la «brecha digital», ya que el acceso a capacidades avanzadas de IA puede depender de poseer dispositivos más nuevos o costosos equipados con el hardware necesario, como las NPUs.
– Los problemas éticos relacionados con la toma de decisiones en IA y los sesgos podrían agravarse a medida que más sistemas de IA operan de forma independiente en dispositivos locales sin supervisión centralizada.
– Desventajas:
– Escala: Escalar aplicaciones en dispositivos puede ser más difícil que en la nube, ya que implica actualizaciones de hardware físico en lugar de actualizaciones de software.
– Mantenimiento: Cada dispositivo habilitado para IA puede requerir actualizaciones y mantenimiento individuales, lo que puede ser más complejo que administrar una solución central basada en la nube.
En términos de recursos relacionados, los visitantes interesados en la IA en dispositivos pueden querer visitar las páginas principales de líderes de la industria y organizaciones de investigación. Aunque no puedo verificar URLs en este momento, típicamente incluirían enlaces a los sitios web principales de empresas como Intel (Intel), Microsoft (Microsoft), así como a instituciones de investigación y comunidades como OpenAI (OpenAI) y la Asociación para el Avance de la Inteligencia Artificial (AAAI). Estas organizaciones suelen estar a la vanguardia de la investigación de IA y el desarrollo de aplicaciones comerciales.
The source of the article is from the blog zaman.co.at