Různý pohled na význam NPUs v PC s umělou inteligencí

PC s umělou inteligencí se v poslední době dostávají do titulků, protože technologické giganty jako Intel, AMD a Qualcomm propagují své čipy s integrovanými NPUs jako klíč k odemčení schopností umělé inteligence. Při bližším pohledu však vyplývá, že NPUs nemusí být tak zásadní, jak se tvrdí.

Důležitým faktorem při posuzování výkonu umělé inteligence je složitost testování. UM obnáší různé úkoly, jako je generování obrazů a velké jazykové modely, každý s vlastní sadou proměnných ovlivňujících výkon. To ztěžuje přesné měření výkonu umělé inteligence.

V nedávném testu s využitím benchmarku Procyon pro inferenci umělé inteligence od společnosti UL bylo zjištěno, že i když NPU přispívá k výpočtům umělé inteligence, GPU hraje mnohem významnější roli. Testy Procyon ukázaly, že výkon GPU v umělé inteligenci byl o 182 % vyšší než výkon CPU a předstihl NPU o 55 %. To naznačuje, že pokud je umělá inteligence prioritou, investovat do výkonné grafické karty nebo GPU by bylo prospěšnější.

Je však třeba poznamenat, že aplikace umělé inteligence mohou běžet na CPUs nebo GPUs i bez potřeby dedikovaného bloku pro umělou inteligenci. Různé komponenty mají různou účinnost pro úkoly umělé inteligence. Intel tvrdí, že NPU nabízí lepší efektivitu, což se překládá do lepší výdrže baterie pro aplikace umělé inteligence, které běží po delší dobu. Například použití umělé inteligence k filtraci šumu během dlouhých hovorů v Microsoft Teams.

Zatímco technologie NPU je stále ve svých raných stádiích, je zajímavé vidět, že aplikace Procyon od UL vůbec nerozpoznává NPU v AI Ryzen čipech od AMD. To zdůrazňuje složitost testování výkonu umělé inteligence a pokroky, které je třeba ještě udělat v oblasti kompatibility hardwaru pro umělou inteligenci.

Závěrem lze konstatovat, že i když NPUs mohou zlepšit schopnosti umělé inteligence počítačů, nejsou zásadní, zejména pokud již máte herní notebook nebo stolní počítač. Investování do výkonné GPU přinese významnější zisky v oblasti umělé inteligence. Jak se technologie umělé inteligence dále vyvíjí, bude zajímavé sledovat, jak se NPUs rozvíjí a zda jejich význam v počítačích s umělou inteligencí poroste.

The source of the article is from the blog guambia.com.uy

Privacy policy
Contact