На последно време AI настолните компютри са в центъра на вниманието, тъй като големи технологични гиганти като Intel, AMD и Qualcomm рекламират своите чипове с интегрирани NPUs като ключа към отключване на AI възможности. Все пак, ако погледнем по-внимателно, ще видим, че NPUs може да не са толкова съществени, колкото се представят.
Важен фактор, който трябва да се има предвид, е че измерването на производителността на AI е сложна задача. AI включва различни задачи, като генериране на изображения и модели на големи езици, всеки със свой набор от променливи, които могат да влияят на производителността. Това прави измерването на AI производителността предизвикателно.
В скорошен тест, използващ инферентен бенчмарк Procyon AI на UL, се откри, че въпреки че NPU допринася за AI изчисленията, GPU играе много по-значителна роля. Тестовете на Procyon показаха, че AI производителността на GPU-то беше с 182% по-висока от тази на CPU-то и с 55% по-висока от тази на NPU-то. Това подсказва, че ако AI е приоритет, инвестирането в мощна графична карта или GPU ще бъде по-изгодно.
Въпреки това стойността да се отбележи, че AI приложенията все още могат да се изпълняват на CPU-та или GPU-та без нужда от отделно AI логическо блокче. Различните компоненти имат различен степен на ефективност за AI задачи. Intel аргументира, че NPU предлага по-добра ефективност, която се превежда в подобрена продължителност на живота на батерията за AI приложения, изпълнявани в продължение на по-дълго време. Например, използването на AI за филтриране на шум по време на дълги обаждания в Microsoft Teams.
Въпреки че технологията на NPU все още е в ранните си етапи, интересно е да се види, че приложението Procyon на UL дори не разпознава NPU в AI-смърчовите чипове на AMD. Това подчертава сложностите при тестването на AI производителността и напредъка, който все още трябва да се постигне в съвместимостта на AI хардуера.
Заключително, въпреки че NPUs могат да подобрят AI възможностите на настолните компютри, те не са необходими, особено ако вече разполагате с игров лаптоп или настолен компютър. Инвестирането в мощен GPU ще доведе до по-значителни придобивки в AI производителността. Докато AI технологията продължава да се развива, ще бъде интересно да видим как NPUs ще се развият и дали тяхната важност в AI настолните компютри ще нараства.
The source of the article is from the blog coletivometranca.com.br