Generatív mesterséges intelligencia erejének teljes körű kiaknázása (AI), a mobil eszközök túlmennek a felhőn és bekapcsolódnak az on-device feldolgozás területébe az ágyazott heterogén AI chipseteknek köszönhetően. Ezek a fejlett chipsetek, ha egy absztrakt réteggel párosulnak, amely hatékonyan osztja el az AI feladatokat különböző feldolgozási architektúrák között, valamint kompakt nyelvtanuló modellek (LLM-k) alkalmazásával, amelyek kevesebb mint 15 milliárd paraméterrel rendelkeznek, lehetővé teszik az üzleti vállalatoknak és a fogyasztóknak, hogy közvetlenül futtassanak generatív AI lekérdezéseket az eszközeiken.
Az ABI Research szerint 2030-ra a heterogén AI chipsetek globális elterjedése meghaladja az 1,8 milliárdot. Ez összhangban van azzal az egyre növekvő tendenciával, hogy egyre több AI képességet ágyazzanak be közvetlenül eszközökbe, például laptopokba, okostelefonokba és más formafaktorokba. Mivel az adatvédelmi aggályok, a késleltetési problémák és a hálózati költségek akadályokat támasztanak a generatív AI kizárólag felhőbe történő telepítésével szemben, az ABI Research kiemeli az on-device AI által kínált vonzó lehetőséget azáltal, hogy hatékonyabban szolgáltatnak információkat és lehetővé teszik a skálázható termelékenységi alkalmazásokat.
A generatív AI feladatok innovációja a heterogén chipseteken abban rejlik, hogy képesek a feladatokat hardver szinten feladni a processzor, a grafikus feldolgozó egység (GPU) és a neurális feldolgozó egységek (NPU) között. Az ezen a területen vezető vállalatok közé tartoznak olyan cégek, mint a Qualcomm, a MediaTek és a Google, akik már lépéseket tettek a LLM-ek implementálása érdekében az eszközökben. Eközben az Intel és az AMD továbbra is vezető szerepet játszanak a PC területén.
A hardver önmagában nem elegendő a hatékony on-device AI értékesítéshez. A termelékenységhez szofisztikált alkalmazások létrehozásához erős partnerségekre van szükség a hardver- és szoftverentitások között, segítve a megoldások egységesítését, amelyek be vannak építve az eszközökbe.
Az ABI Research előrejelzi, hogy ez a csúcs az eszközcserék ciklusainak meghajtásához vezet majd és felgyorsítja a szállítmányozási sebességet 2025 és 2028 között, ahogy a szoftverökoszisztémaérésével újraélésre került piacokat stagnáló állapotból kivezeti. A személyes és vállalati hordozható eszközpiac jelentős növekedést fog megélni, azonfelül pedig az AI széleskörű elterjedésére való átmenet sikerében kulcsfontosságú lesz a heterogén AI chipsetek széles körű integrálása.
Az áramköri-gyártókat és az OEM-eket arra ösztönzik, hogy bővítsék az AI termelékenységi alkalmazás-ökoszisztémát, hogy vonzóbbá tegyék az ügyfeleket és finomítsák ajánlataikat. Kulcsfontosságú lesz az olyan alkalmazások kritikus tömegének eléréséhez, amelyek széles körben vonzóak a végső felhasználóknak és vállalati szervezeteknek, és amelyek lehetővé teszik az AI széles körű elterjedésére való sikeres áttérést az eszközökön.
Kulcskérdések és válaszok:
1…