Tachyum, et teknologiselskap, kunngjorde nylig sin nyeste innovasjon, Prodigy ATX-plattformen. Denne arbeidsstasjonen, som er fokusert på kunstig intelligens, er basert på en nedstrippet versjon av Prodigy-universell prosessor som ennå ikke er ferdig utviklet. Med en prislapp på $5000 hevder Tachyum at Prodigy ATX-plattformen vil revolusjonere tilgangen til store språkmodeller med milliarder eller billioner av parametere. Imidlertid har selskapet ikke oppgitt tilgjengelighetsdatoen for produktet.
Kjernen i Prodigy ATX-plattformen er dens 96-kjerners Prodigy-prosessor. Per nå er det forventet at denne prosessoren vil bli masseprodusert på TSMC’s 5nm-noder i 2024, og den har en maksimal frekvens på 5,70 GHz. Ved å bruke kun halvparten av selve brikken reduserer prosessoren strømforbruket og forbedrer utbyttet, noe som gjør plattformen mer kostnadseffektiv og tilgjengelig.
Prodigy ATX-plattformen skilter med imponerende spesifikasjoner, inkludert 1TB DDR5-6400 SDRAM og en toppbåndbredde på 819,2 GB/s. Hovedkortet støtter tre PCIe x16 5.0-spor, tre M.2-2280 NVMe-spor med PCIe 5.0 x4-grensesnitt, samt SATA-kontakter for SSD-er og harddisker. Videre sikrer ATX-bokdesignet inkludering av standard I/O-kontakter som USB, HDMI og Ethernet. Hovedkortet vil også ha Aspeeds AST2600 styrekrets for styring av hovedkortet.
Tachyums fokus med Prodigy ATX-plattformen ligger i å utnytte forhåndstrente modeller for inferens og optimalisere effektivitet gjennom prosessorarkitektur. Ved å ta i bruk Tachyums 4-bit TAI sparse med 4-biters vekter format, reduseres minnekravene for billion-parameter modeller dramatisk, og dette muliggjør støtte innenfor den 1TB systemminnegrensen.
Ifølge Tachyum kan en enkelt 96-kjerners Prodigy-prosessor med 1TB RAM kjøre inferens på en ChatGPT4-modell med 1,7 billioner parametere og dermed overgå 52 Nvidia H100 GPU-er når det gjelder kostnad og strømforbruk.
Mens Tachyums Prodigy-plattform viser lovende resultater i å potensielt forvandle AI-landskapet, oppstår det spørsmål om dens økonomiske bærekraft. Estimerte komponentkostnader for Prodigy ATX-plattformen overstiger allerede $4800, uten å ta hensyn til de dyre Prodigy-prosessorene. Med selskapets lanseringsplaner gjentatte ganger utsatt, er det usikkert når Tachyum vil begynne masseproduksjon av prosessorene og gjøre dem bredt tilgjengelige.
Mens Tachyum arbeider for å popularisere Prodigy ATX-plattformen, vil dens endelige suksess med å restrukturere markedet for AI-arbeidsstasjoner avhenge av evnen til å levere prosessorer i stor skala. Tiden vil vise om Tachyum kan overvinne disse utfordringene og etablere Prodigy ATX-plattformen som en spillveksler i industrien.
FAQ:
1. Hva er Prodigy ATX-plattformen?
Prodigy ATX-plattformen er en kunstig intelligens-orientert arbeidsstasjon utviklet av Tachyum. Den er basert på en nedstrippet versjon av Prodigy-universell prosessor som ennå ikke har blitt utgitt.
2. Hva er prisen på Prodigy ATX-plattformen?
Prodigy ATX-plattformen har en pris på $5000.
3. Hva er kjernen i Prodigy ATX-plattformen?
Kjernen i Prodigy ATX-plattformen er dens 96-kjerners Prodigy-prosessor, som forventes å bli masseprodusert på TSMC’s 5nm-noder i 2024.
4. Hva er spesifikasjonene til Prodigy ATX-plattformen?
Prodigy ATX-plattformen inkluderer 1TB DDR5-6400 SDRAM og har en toppbåndbredde på 819,2 GB/s. Den støtter flere PCIe-spor, M.2 NVMe-spor og SATA-kontakter.
5. Hvordan optimaliserer Tachyum effektiviteten med Prodigy ATX-plattformen?
Tachyum optimaliserer effektiviteten ved å bruke sin 4-bit TAI sparse med 4-biters vekter-format, som reduserer minnekravene for billion-parameter modeller.
6. Kan Prodigy ATX-plattformen overgå Nvidia GPU-er?
Ifølge Tachyum kan en enkelt 96-kjerners Prodigy-prosessor med 1TB RAM overgå 52 Nvidia H100 GPU-er når det gjelder kostnad og strømforbruk ved kjøring av inferens på en ChatGPT4-modell med 1,7 billioner parametere.
7. Hva er bekymringene rundt Prodigy ATX-plattformens økonomiske bærekraft?
Det er bekymringer rundt Prodigy ATX-plattformens økonomiske bærekraft på grunn av de estimerte komponentkostnadene, som allerede overstiger $4800 uten å ta hensyn til de dyre Prodigy-prosessorene.
8. Når vil Prodigy-prosessorene bli bredt tilgjengelige?
Lanseringsplanene for Prodigy-prosessorene har blitt gjentatte ganger utsatt, og det er usikkert når Tachyum vil begynne masseproduksjon og gjøre dem bredt tilgjengelige.
Definisjoner:
– Prodigy ATX-plattformen: En kunstig intelligens-orientert arbeidsstasjon basert på Tachyums Prodigy-universelle prosessor.
– Prodigy-universell prosessor: Tachyums prosessor som ennå ikke har blitt utgitt.
– Tape out: Fullføringen av designet til en halvlederbrikke og opprettelsen av fotomasker som skal brukes under produksjonsprosessen av brikken.
– CPU: Central Processing Unit, hovedkomponenten i en datamaskin som utfører de fleste beregningene innenfor systemet.
– TSMC: Taiwan Semiconductor Manufacturing Company, en fremtredende halvlederbrikkeprodusent.
– DDR5-6400 SDRAM: Double Data Rate 5 – 6400 synchronous dynamic random-access memory, en type datamaskinminne.
– PCIe: Peripheral Component Interconnect Express, en standard for høyhastighets datamaskinutvidelser.
– M.2-2280 NVMe-spor: En formfaktor og grensesnitt for SSD-er som gir høyhastighetslagring.
– SATA: Serial Advanced Technology Attachment, en databuss for tilkobling av masse lagringsenheter.
– I/O-kontakter: Inndata-/Uttaks-kontakter for tilkobling av eksterne enheter til en datamaskin.
– Aspeed AST2600: En styrekrets for hovedkort som brukes til styringsformål i servermiljøer.
– Inferens: Prosessen med å bruke et trent modell for å gjøre prediksjoner eller dra konklusjoner basert på ny data.
– Nvidia H100 GPU-er: Grafikkprosessorer utviklet av NVIDIA, et ledende selskap innen grafikk- og AI-teknologi.
– ChatGPT4-modell: En AI-språkmodell kjent for sin evne til samtale.
Foreslåtte relaterte lenker:
– https://www.tachyum.com/ (Tachyums offisielle nettside)
The source of the article is from the blog exofeed.nl