Tachyum, ett teknikföretag, meddelade nyligen sin senaste innovation, Prodigy ATX-plattformen. Denna arbetsstation för artificiell intelligens är baserad på en nedskalad version av den ännu ej producerade Prodigy-universella processorn. Med ett prislapp på $5000 hävdar Tachyum att Prodigy ATX-plattformen kommer att revolutionera tillgången till stora språkmodeller med miljarder eller biljoner parametrar. Företaget har dock inte avslöjat produktens tillgänglighetsdatum.
Kärnfunktionen i Prodigy ATX-plattformen är dess 96-kärniga Prodigy-processor. Den beräknas bli volymproducerad på TSMC:s 5nm-nod senast 2024 och opererar med en maximal frekvens på 5,70 GHz. Genom att endast använda hälften av sin yta minskar processorn energiförbrukningen och förbättrar utbytet, vilket gör plattformen mer kostnadseffektiv och tillgänglig.
Prodigy ATX-plattformen stoltserar med imponerande specifikationer, inklusive 1 TB DDR5-6400 SDRAM och en toppbandbredd på 819,2 GB/s. Moderkortet stöder tre PCIe x16 5.0-kortplatser, tre M.2-2280 NVMe-kortplatser med PCIe 5.0 x4-gränssnitt samt SATA-anslutningar för SSD:er och HDD:er. Dessutom garanterar ATX-designen inkludering av standard-I/O-anslutningar som USB, HDMI och Ethernet. Moderkortet kommer också att ha Aspeeds AST2600-styrenhet för moderkortsadministration.
Tachyums fokus med Prodigy ATX-plattformen ligger i att dra nytta av förtränade modeller för inferens och optimera effektiviteten genom processorarkitektur. Genom att använda Tachyums 4-bitars TAI-sparse med 4-bitars vikter minskar minneskraven för biljardparametrarsmodeller dramatiskt, vilket möjliggör stöd inom begränsningen av 1 TB systemminne.
Enligt Tachyum kan en enda 96-kärnig Prodigy-processor med 1 TB RAM köra inferens på en ChatGPT4-modell med 1,7 biljoner parametrar och överträffa 52 Nvidia H100-GPU:er när det gäller kostnad och energiförbrukning.
Även om Tachyums Prodigy-plattform visar löfte om att potentiellt förändra AI-landskapet, reser sig frågor om dess ekonomiska livskraft. De uppskattade komponentkostnaderna för Prodigy ATX-plattformen överstiger redan $4800, utan att räkna med de dyra Prodigy-processorerna. Med företagets uppskjutna lanseringsschema är det osäkert när Tachyum kommer att starta massproduktion av sina processorer och göra dem allmänt tillgängliga.
I sin strävan att popularisera Prodigy ATX-plattformen kommer Tachyums slutgiltiga framgång med att omforma marknaden för AI-arbetsstationer att bero på företagets förmåga att leverera processorer i stor skala. Endast tiden kommer att utvisa om Tachyum kan övervinna dessa utmaningar och etablera Prodigy ATX-plattformen som en spelväxlare inom branschen.
FAQ:
1. Vad är Prodigy ATX-plattformen?
Prodigy ATX-plattformen är en arbetsstation för konstgjord intelligens utvecklad av Tachyum. Den är baserad på en nedskalad version av den ännu ej släppta Prodigy-universella processorn.
2. Vad kostar Prodigy ATX-plattformen?
Prodigy ATX-plattformen har ett pris på $5000.
3. Vad är kärnfunktionen i Prodigy ATX-plattformen?
Kärnfunktionen i Prodigy ATX-plattformen är dess 96-kärniga Prodigy-processor, som beräknas bli volymproducerad på TSMC:s 5nm-nod senast 2024.
4. Vilka är Prodigy ATX-plattformens specifikationer?
Prodigy ATX-plattformen inkluderar 1 TB DDR5-6400 SDRAM och har en toppbandbredd på 819,2 GB/s. Den stödjer flera PCIe-kortplatser, M.2 NVMe-kortplatser och SATA-anslutningar.
5. Hur optimerar Tachyum effektiviteten med Prodigy ATX-plattformen?
Tachyum optimerar effektiviteten genom att använda sin 4-bitars TAI-sparse med 4-bitars vikter, vilket minskar minneskraven för biljardparametrarsmodeller.
6. Kan Prodigy ATX-plattformen överträffa Nvidia-GPU:er?
Enligt Tachyum kan en enda 96-kärnig Prodigy-processor med 1 TB RAM överträffa 52 Nvidia H100-GPU:er när det gäller kostnad och energiförbrukning vid körning av inferens på en ChatGPT4-modell med 1,7 biljoner parametrar.
7. Vilka är oroerna kring Prodigy ATX-plattformens ekonomiska livskraft?
Det finns oro kring Prodigy ATX-plattformens ekonomiska livskraft på grund av de uppskattade komponentkostnaderna, som redan överstiger $4800 utan att räkna med de dyra Prodigy-processorerna.
8. När kommer Prodigy-processorna att bli allmänt tillgängliga?
Lanseringsschemat för Prodigy-processorna har upprepade gånger blivit försenat, och det är osäkert när Tachyum kommer att starta massproduktion och göra dem allmänt tillgängliga.
Definitioner:
– Prodigy ATX-plattform: En arbetsstation för konstgjord intelligens baserad på Tachyums Prodigy universella processor.
– Prodigy universell processor: Tachyums processor som ännu inte har släppts.
– Tape out: Färdigställande av designen för en halvledarchip och skapandet av fotomasker som ska användas under chipfabrikationsprocessen.
– CPU: Central Processing Unit, den huvudsakliga komponenten i en dator som utför de flesta beräkningarna inuti systemet.
– TSMC: Taiwan Semiconductor Manufacturing Company, en framstående halvledarfabrikat.
– DDR5-6400 SDRAM: Double Data Rate 5 – 6400 synchron dynamiskt random-access memory, en typ av datorminne.
– PCIe: Peripheral Component Interconnect Express, en snabb seriel datortilläggssystemstandard.
– M.2-2280 NVMe-kortplatser: En formfaktor och gränssnitt för SSD-enheter som ger snabb lagring.
– SATA: Serial Advanced Technology Attachment, en datorteknikbuss för anslutning av masslagerenheter.
– I/O-anslutningar: Inmatnings-/utmatningsanslutningar för att ansluta externa enheter till en dator.
– Aspeed AST2600: En styrenhet för moderkortsadministration inom serversammanhang.
– Inferens: Processen att använda en tränad modell för att göra förutsägelser eller dra slutsatser baserat på ny data.
– Nvidia H100-GPU: Grafikbearbetningsenheter utvecklade av NVIDIA, ett ledande företag inom grafik och AI-teknik.
– ChatGPT4-modell: En AI-språkmodell känd för sina konversationsfunktioner.
Föreslagna relaterade länkar:
– https://www.tachyum.com/ (Tachyums officiella webbplats)
The source of the article is from the blog dk1250.com