Tachyum, et teknologifirma, har for nylig annonceret deres seneste innovation, Prodigy ATX Platform. Dette arbejdsstation, der er orienteret mod kunstig intelligens, er baseret på en afkortet version af den kommende Prodigy universal processor. Til en pris på $5000 hævder Tachyum, at Prodigy ATX Platform vil revolutionere adgangen til store sprogmodeller med milliarder eller billioner af parametre. Dog har virksomheden ikke offentliggjort produktets tilgængelighedsdato.
Kernefunktionen i Prodigy ATX Platform er dens 96-core Prodigy-processor. Denne CPU, som forventes at være i volumenproduktion på TSMC’s 5nm-node i 2024, opererer ved en maksimal frekvens på 5,70 GHz. Ved kun at aktivere halvdelen af sin chip reducerer processoren strømforbruget og øger udbyttet, hvilket gør platformen mere omkostningseffektiv og tilgængelig.
Prodigy ATX Platform praler af imponerende specifikationer, herunder 1TB DDR5-6400 SDRAM og en peak båndbredde på 819,2 GB/s. Dens bundkort understøtter tre PCIe x16 5.0 slots, tre M.2-2280 NVMe slots med PCIe 5.0 x4-interface samt SATA-stik til SSD’er og HDD’er. Desuden sikrer ATX-kasse-designet inkluderingen af standard I/O-stik som USB, HDMI og Ethernet. Bundkortet vil også have Aspeeds AST2600 board management controller.
Tachyums fokus med Prodigy ATX Platform ligger i at udnytte fortrænede modeller til inferens og optimere effektiviteten gennem processorens arkitektur. Ved at benytte sig af Tachyums 4-bit TAI sparse with 4-bit weights format reduceres behovet for hukommelse dramatisk for trillion-parameter-modeller, hvilket tillader understøttelse inden for grænserne for 1TB systemhukommelse.
Ifølge Tachyum kan en enkelt 96-core Prodigy-processor med 1TB RAM køre inferens på en ChatGPT4-model med 1,7 billioner parametre og præstere bedre end 52 Nvidia H100 GPU’er i forhold til omkostninger og strømforbrug.
Mens Tachyums Prodigy-platform viser potentiale til potentielt at omdanne AI-landskabet, rejser der sig spørgsmål om den økonomiske levedygtighed. De estimerede komponentomkostninger til Prodigy ATX Platform overstiger allerede $4800, selv uden at medregne de dyre Prodigy-processorer. Med virksomhedens gentagne forsinkelser af lanceringen er det usikkert, hvornår Tachyum vil påbegynde masseproduktion af deres processorer og gøre dem bredt tilgængelige.
Mens Tachyum stræber efter at popularisere deres Prodigy ATX Platform, vil dens ultimative succes med at omforme markedet for AI-workstations afhænge af deres evne til at levere processorer i stor skala. Kun tiden vil vise, om Tachyum kan overvinde disse udfordringer og etablere deres Prodigy ATX Platform som en game-changer i branchen.
FAQ:
1. Hvad er Prodigy ATX Platform?
Prodigy ATX Platform er en arbejdsstation, der er orienteret mod kunstig intelligens, udviklet af Tachyum. Den er baseret på en afkortet version af den kommende Prodigy universal processor.
2. Hvad er prisen på Prodigy ATX Platform?
Prodigy ATX Platform har en pris på $5000.
3. Hvad er hovedfunktionen i Prodigy ATX Platform?
Hovedfunktionen i Prodigy ATX Platform er dens 96-core Prodigy-processor, som forventes at blive volumenproduceret på TSMC’s 5nm-node i 2024.
4. Hvad er specifikationerne for Prodigy ATX Platform?
Prodigy ATX Platform inkluderer 1TB DDR5-6400 SDRAM og har en peak båndbredde på 819,2 GB/s. Den understøtter flere PCIe-slots, M.2 NVMe-slots og SATA-stik.
5. Hvordan optimerer Tachyum effektiviteten med Prodigy ATX Platform?
Tachyum optimerer effektiviteten ved at benytte sig af deres 4-bit TAI sparse with 4-bit weights format, som reducerer hukommelseskravene for trillion-parameter-modeller.
6. Kan Prodigy ATX Platform præstere bedre end Nvidia GPU’er?
Ifølge Tachyum kan en enkelt 96-core Prodigy-processor med 1TB RAM præstere bedre end 52 Nvidia H100 GPU’er i forhold til omkostninger og strømforbrug, når den kører inferens på en ChatGPT4-model med 1,7 billioner parametre.
7. Hvilke bekymringer er der omkring den økonomiske levedygtighed af Prodigy ATX Platform?
Der er bekymringer omkring den økonomiske levedygtighed af Prodigy ATX Platform på grund af de estimerede komponentomkostninger, der allerede overstiger $4800 uden at medregne de dyre Prodigy-processorer.
8. Hvornår vil Prodigy-processorerne være bredt tilgængelige?
Lanceringsskemaet for Prodigy-processorerne er blevet gentagne gange forsinket, og det er stadig usikkert, hvornår Tachyum vil begynde masseproduktion og gøre dem bredt tilgængelige.
Definitioner:
– Prodigy ATX Platform: En arbejdsstation, der er orienteret mod kunstig intelligens, baseret på Tachyums Prodigy universal processor.
– Prodigy universal processor: Tachyums processor, der endnu ikke er udgivet.
– Tape out: Fuldførelsen af designet af en halvlederchip og oprettelsen af fotomasker, der skal bruges under chipfremstillingsprocessen.
– CPU: Central Processing Unit, den vigtigste komponent i en computer, der udfører størstedelen af behandlingen i systemet.
– TSMC: Taiwan Semiconductor Manufacturing Company, en førende halvleder fabrikant.
– DDR5-6400 SDRAM: Double Data Rate 5 – 6400 synchron dynamic random-access memory, en type computerhukommelse.
– PCIe: Peripheral Component Interconnect Express, en standard for en ekspansionsbus med høj hastighed.
– M.2-2280 NVMe-slots: En formfaktor og interface til solid-state drives, der giver højhastighedsopbevaring.
– SATA: Serial Advanced Technology Attachment, en computerbus-interface til tilslutning af masseopbevaringsenheder.
– I/O-stik: Input/output-stik til tilslutning af eksterne enheder til en computer.
– Aspeed AST2600: En board management controller til serverstyringsformål.
– Inferens: Processen med at bruge en trænet model til at lave forudsigelser eller drage konklusioner baseret på nye data.
– Nvidia H100 GPU’er: Grafisk behandlingsenheder udviklet af NVIDIA, et førende firma inden for grafik og AI-teknologi.
– ChatGPT4-model: En AI-sprogmodel kendt for sine samtaleevner.
Foreslåede relaterede links:
– https://www.tachyum.com/ (Tachyums officielle hjemmeside)
The source of the article is from the blog mivalle.net.ar