V dobe umelej inteligencie je termín „AI PC“ často spomínaný, čo zanecháva mnohých zmätených ohľadom jeho skutočného významu a schopností. Zatiaľ čo boli pokusy ho definovať, koncept AI PC prekračuje marketingový hype a nové funkcie spojené s najnovším hardvérom.
V jadre musí byť AI PC schopný vykonávať inferencing rýchlo a efektívne. Inferencing je proces transformovania poskytnutého výzvu na významnú odpoveď. Vyžaduje podstatný výpočtový výkon na spracovanie obrovského množstva údajov a vykonávanie zložitých maticových násobení.
Na rozdiel od presvedčenia, že inferencing je výhradný pre obrovské dátové centrá, ukázalo sa, že mnoho existujúcich PC dokáže túto úlohu zvládnuť primerane. S dostatočnou RAM a stredne veľkým GPU môže ktokoľvek spustiť „dostatočne dobrého“ chatbota na svojom PC. GPU s minimálne 8 GB VRAM je nevyhnutné, zatiaľ čo 32 GB RAM je lepšie ako 16 GB. Apple-ove SoC série M, ktoré sa nachádzajú v ich nových Macoch s 16 GB alebo viac RAM, sa ukázali ako neočakávane vhodné pre úlohy AI.
Zaujímavé je, že aj PC zakúpené pred niekoľkými rokmi môžu spĺňať požiadavky pre AI inferencing. Napríklad osemročný high-end PC s procesorom Intel 6700K a grafickou kartou Nvidia GTX 980 Ti stále dokáže plynulo spustiť chatbota. Najnovšie PC môžu pracovať rýchlosťou porovnateľnou s OpenAI’s GPT-3.5-Turbo, predvádzajúc významné pokroky v oblasti AI.
Na otestovanie týchto systémov sme im podali sofistikovanú výzvu, simulujúcu „agenta“, ktorý rieši problémy tým, že generuje JSON súbory pre nasledujúce programy. Výsledky boli impozantné, dokazujúc, že AI PC už sú prítomné v našich životoch, dokonca bez toho, aby sme si to uvedomili. Okrem toho existuje množstvo AI PC, ktorých počet sa odhaduje na desiatky miliónov, podčiarkujúc ich širokú dostupnosť.
Hodnota AI PC je ešte zreteľnejšia, keď vezmeme do úvahy citlivé dokumenty, ktoré nemožno zdieľať alebo nahrať na externé servery. Lekárske informácie, klasifikované dokumenty a právne dokumenty patria do tejto kategórie. Nedávno vydaný právny jazykový model SaulML by mohol byť neoceniteľným nástrojom pre právnikov a justičných úradníkov, ak sa spustí na lokálnom AI PC. Umožnil by im analyzovať dokumenty, generovať presné čítania a navrhovať nové podmienky zmlúv bez kompromitovania dôvernosti.
Aj keď niektorí môžu tvrdiť, že základom je spoliehanie sa na cloudové služby, realita je taká, že existujú obmedzenia a riziká spojené s zdieľaním citlivých informácií na externých platformách. Mať schopnosti AI na lokálnych PC poskytuje bezpečné a pohodlné riešenie, najmä pre odvetvia, kde je dôvernosť kľúčová.
Tiež treba poznamenať, že výrobcovia hardvéru nemusia verejne uznávať AI schopnosti, ktoré mnoho existujúcich PC má. Môžu tlačiť spotrebiteľov na vylepšenie ich zariadení, ale pravda je taká, že jednotlivci už môžu mať úplne schopné AI PC k dispozícii, len nie tie, ktoré by výrobcovia chceli, aby si kúpili.
V závere možno povedať, že sila AI PC spočíva v ich schopnosti uvoľniť potenciál umelej inteligencie priamo na dosah ruky. Či už ide o spúšťanie chatbotov, analýzu citlivých dokumentov alebo riešenie zložitých úloh, PC s dostatočnými hardvérovými zdrojmi dokáže zvládnuť požiadavky inferencing. Prijať AI schopnosti, ktoré už existujú vo našich PC, otvára nové možnosti a príležitosti, posilňujúc jednotlivcov aj organizácie. Takže, ak sa pýtate, či máte AI PC, odpoveď je pravdepodobne jednoznačne áno!
Časté otázky
The source of the article is from the blog cheap-sound.com