Přijetí síly generativní umělé inteligence (AI) umožňuje mobilním zařízením překonat cloud a využít on-device zpracování díky vestavěným heterogenním čipům AI. Tyto sofistikované čipy, když jsou spárovány s abstraktní vrstvou schopnou efektivně rozdělovat AI zátěž mezi různé architektury zpracování, spolu s kompaktními modely učení jazyka (LLMs) s méně než 15 miliardami parametrů, umožňují jak podnikům, tak spotřebitelům spouštět generativní AI dotazy přímo na svých zařízeních.
Podle ABI Research se globální distribuce heterogenních čipů AI má dostat nad 1,8 miliardy do roku 2030. To souzní s rostoucím trendem vkládání většího množství AI schopností přímo do zařízení jako jsou notebooky, chytré telefony a další formáty. Jelikož obavy z ochrany dat, otázky latence a náklady spojené s připojením vytvářejí překážky pro cloud-only nasazení generativní AI, ABI Research zdůrazňuje atraktivní nabídku on-device AI pro překonání těchto výzev tím, že umožní efektivnější dodávání informací a umožní škálovatelné produktivní aplikace.
Inovace generativních AI zátěží napříč heterogenními čipy spočívá v jejich schopnosti přiřadit úkoly na hardwarové úrovni mezi procesorem, grafickým procesorem (GPU) a neuronovými procesovými jednotkami (NPUs). Předními firmami v tomto prostoru jsou společnosti jako Qualcomm, MediaTek a Google, které již učinili kroky k implementaci LLMs do zařízení. Mezitím Intel a AMD nadále vedou v oblasti PC.
Sám hardware nebude stačit pro robustní on-device AI hodnotovou nabídku. Vytváření sofistikovaných aplikací pro produktivitu vyžaduje silné partnerství mezi hardwarovými a softwarovými subjekty, které pomáhají vytvářet sjednocená řešení zabudovaná do zařízení.
ABI Research předpovídá, že to povede k cyklům výměny zařízení a urychlí rychlost dodání mezi lety 2025 a 2028, jakmile se ekosystém softwaru zraleje, oživuje trhy, které se momentálně stagnují. Trhy s osobními a firemními přenosnými zařízeními se mohou dočkat významného růstu, poháněného přijetím heterogenních čipů AI, které budou do konce desetiletí stále více integrovány do většiny systémů.
Výrobci čipů a výrobci OEM jsou vyzváni, aby rozšířili ekosystém produktivních aplikací AI a přilákali tak více zákazníků a zdokonalovali své nabídky. Dosáhnutí kritické hmotnosti aplikací, které oslovují široké spektrum koncových uživatelů a firemních organizací, bude klíčové pro úspěšný přechod k širokému uplatnění AI v zařízeních.