Tachyum, una empresa de tecnología, anunció recientemente su última innovación, la plataforma Prodigy ATX. Esta estación de trabajo orientada a la inteligencia artificial se basa en una versión simplificada del procesador universal Prodigy, que aún no se ha lanzado. Con un precio de $5000, Tachyum afirma que la plataforma Prodigy ATX revolucionará el acceso a modelos de lenguaje grandes con miles de millones o billones de parámetros. Sin embargo, la empresa no ha revelado la fecha de disponibilidad del producto.
La característica principal de la plataforma Prodigy ATX es su procesador Prodigy de 96 núcleos. Se espera que este procesador se produzca en volumen en el nodo de 5 nm de TSMC para 2024, y funciona a una frecuencia máxima de 5,70 GHz. Al habilitar solo la mitad de su matriz, el procesador reduce el consumo de energía y mejora el rendimiento, lo que hace que la plataforma sea más rentable y accesible.
La plataforma Prodigy ATX cuenta con especificaciones impresionantes, que incluyen 1TB de memoria SDRAM DDR5-6400 y un ancho de banda máximo de 819,2 GB/s. Su placa base admite tres ranuras PCIe x16 5.0, tres ranuras M.2-2280 NVMe con una interfaz PCIe 5.0 x4 y conectores SATA para SSD y HDD. Además, el diseño de la caja ATX garantiza la inclusión de conectores estándar de E/S como USB, HDMI y Ethernet. La placa base también contará con el controlador de gestión de placas AST2600 de Aspeed.
El enfoque de Tachyum con la plataforma Prodigy ATX se centra en aprovechar modelos preentrenados para inferencia y optimizar la eficiencia a través de la arquitectura del procesador. Al adoptar el formato TAI sparse de 4 bits de Tachyum con pesos de 4 bits, los requisitos de memoria para modelos de billones de parámetros disminuyen drásticamente, lo que permite su soporte dentro del límite de memoria del sistema de 1TB.
Según Tachyum, un solo procesador Prodigy de 96 núcleos con 1TB de RAM puede ejecutar inferencias en un modelo ChatGPT4 con 1,7 billones de parámetros, superando en rendimiento y consumo de energía a 52 GPU Nvidia H100 en términos de costos.
Si bien la plataforma Prodigy de Tachyum muestra promesas de transformar el panorama de la IA, surgieron preguntas sobre su viabilidad económica. Los costos estimados de los componentes para la plataforma Prodigy ATX superan los $4800, incluso sin tener en cuenta los costosos procesadores Prodigy. Con el cronograma de lanzamiento de la empresa retrasado repetidamente, sigue siendo incierto cuándo Tachyum comenzará la producción en masa de sus procesadores y los pondrá ampliamente disponibles.
A medida que Tachyum se esfuerza por popularizar su plataforma Prodigy ATX, su éxito final en reconfigurar el mercado de estaciones de trabajo de IA dependerá de su capacidad para entregar procesadores a gran escala. Solo el tiempo dirá si Tachyum puede superar estos desafíos y establecer su plataforma Prodigy ATX como un cambio de juego en la industria.
Preguntas frecuentes:
1. ¿Qué es la plataforma Prodigy ATX?
La plataforma Prodigy ATX es una estación de trabajo orientada a la inteligencia artificial desarrollada por Tachyum. Se basa en una versión simplificada del procesador universal Prodigy, que aún no se ha lanzado.
2. ¿Cuál es el precio de la plataforma Prodigy ATX?
La plataforma Prodigy ATX tiene un precio de $5000.
3. ¿Cuál es la característica principal de la plataforma Prodigy ATX?
La característica principal de la plataforma Prodigy ATX es su procesador Prodigy de 96 núcleos, que se espera que se produzca en volumen en el nodo de 5 nm de TSMC para 2024.
4. ¿Cuáles son las especificaciones de la plataforma Prodigy ATX?
La plataforma Prodigy ATX incluye 1TB de memoria SDRAM DDR5-6400 y tiene un ancho de banda máximo de 819,2 GB/s. Admite múltiples ranuras PCIe, ranuras M.2 NVMe y conectores SATA.
5. ¿Cómo optimiza Tachyum la eficiencia con la plataforma Prodigy ATX?
Tachyum optimiza la eficiencia al adoptar su formato TAI sparse de 4 bits con pesos de 4 bits, lo que reduce los requisitos de memoria para modelos de billones de parámetros.
6. ¿Puede la plataforma Prodigy ATX superar a las GPU Nvidia?
Según Tachyum, un solo procesador Prodigy de 96 núcleos con 1TB de RAM puede superar a 52 GPU Nvidia H100 en términos de costos y consumo de energía al ejecutar inferencias en un modelo ChatGPT4 con 1,7 billones de parámetros.
7. ¿Cuáles son las preocupaciones sobre la viabilidad económica de la plataforma Prodigy ATX?
Existen preocupaciones sobre la viabilidad económica de la plataforma Prodigy ATX debido a los costos estimados de los componentes, que ya superan los $4800 sin tener en cuenta los costosos procesadores Prodigy.
8. ¿Cuándo estarán ampliamente disponibles los procesadores Prodigy?
El cronograma de lanzamiento de los procesadores Prodigy se ha retrasado repetidamente y no está claro cuándo Tachyum comenzará la producción en masa y los pondrá ampliamente disponibles.
Definiciones:
– Plataforma Prodigy ATX: Una estación de trabajo orientada a la inteligencia artificial basada en el procesador universal Prodigy de Tachyum.
– Procesador universal Prodigy: El procesador de Tachyum que aún no se ha lanzado.
– Tape out: La finalización del diseño de un chip de semiconductores y la creación de fotomáscaras que se utilizarán durante el proceso de fabricación del chip.
– CPU: Unidad Central de Procesamiento, el componente principal de una computadora que realiza la mayoría de los procesos dentro del sistema.
– TSMC: Taiwan Semiconductor Manufacturing Company, una destacada fundición de semiconductores.
– SDRAM DDR5-6400: Memoria de acceso aleatorio dinámica síncrona de datos dobles 5 – 6400, un tipo de memoria de computadora.
– PCIe: Interconexión de Componentes Periféricos Express, un estándar de bus de expansión de computadora de alta velocidad y serie.
– Ranuras M.2-2280 NVMe: Un factor de forma e interfaz para unidades de estado sólido que proporcionan almacenamiento de alta velocidad.
– SATA: Serial Advanced Technology Attachment, una interfaz de bus de computadora para conectar dispositivos de almacenamiento masivo.
– Conectores de E/S: Conectores de entrada/salida para conectar dispositivos externos a una computadora.
– Aspeed AST2600: Un controlador de gestión de placas para la administración de servidores.
– Inferencia: El proceso de utilizar un modelo entrenado para hacer predicciones o sacar conclusiones basadas en nuevos datos.
– GPU Nvidia H100: Unidades de Procesamiento Gráfico desarrolladas por NVIDIA, una destacada empresa de tecnología gráfica y de IA.
– Modelo ChatGPT4: Un modelo de lenguaje de inteligencia artificial conocido por sus capacidades de conversación.
Enlaces relacionados sugeridos:
– https://www.tachyum.com/ (Sitio web oficial de Tachyum)
The source of the article is from the blog yanoticias.es