Mokslininkai iš Korejos pažangaus mokslo ir technologijų instituto (KAIST) neseniai pasiekė perštį dirbdami su dirbtinio intelekto srityje. Jie sėkmingai pristatė naująjį AI lustą, kuris siūlo panašų greitį kaip ir Nvidia A100 GPU, tuo pačiu būdamas mažesnio dydžio ir suvartojantis žymiai mažiau energijos. Šis įspūdingas pasiekimas turi potencialą revoliucionizuoti puslaidininkių industriją.
Po profesoriaus Yoo Hoi-juno vadovavimo KAIST’uose esančiam procesorių-atmintyje tyrimų centrui, komanda sukūrė pirmąjį pasaulyje ‘Kompleksinį Transformatorių’ (C-Transformer) AI lustą. Tai, kas išskiria šį lustą, yra jo neuroninės kompiuterijos sistema, kuri emuliuoja žmogaus smegenų struktūrą ir funkcionavimą. Išnaudojant giliąsias mokymosi modelį, kuris dažnai naudojamas vizualinių duomenų apdorojimui, ši technologija turi galimybę mokytis modelių ir konteksto, todėl idealiai tinka pažangioms AI paslaugoms, pavyzdžiui, ChatGPT.
Demonstruodamas, komandos narys Kim Sang-yeob parodė lusto įspūdingas galimybes. Turint C-Transformerį, nešiojamas kompiuteris galėjo atlikti įvairius užduotis, pavyzdžiui, klausimų ir atsakymų sesijas, sakinių santraukas ir vertimus, naudojant OpenAI’s LLM, GPT-2. Rezultatai buvo stulbinantys, kad lustas šias užduotis atliko bent tris kartus greičiau, o kai kuriais atvejais net iki devynių kartų greičiau, palyginti su GPT-2 veikimu įprastame, su internetu prisijungusiame, nešiojamajame kompiuteryje.
Vienas iš įspūdingiausių šio AI lusto aspektų yra jo energijos naudingumas. Kuomet tradicinėms generatyviosioms AI užduotims dažnai reikalingi keli GPU ir dideli energijos suvartojimai, C-Transformeris pasiekia tokią pat lygį veiksmingumo naudodamas tik 1/625 dalį energijos, palyginti su Nvidia GPU. Be to, kompaktiškas dydis, matuojantis vos 4,5 mm į 4,5 mm, atveria galimybes įtaisyti jį į mažesnius įrenginius, tokius kaip mobilieji telefonai.
Nepaisant šių įspūdingų laimėjimų, vis dar kyla klausimų dėl lusto praktinio taikymo. Kai kurie pramonės ekspertai iškėlė rūpesčių dėl palyginamų veiksmų metrikų stokos, kuri kelia abejones dėl to, ar C-Transformerio lustas gali laikytis savo pažadų. Tačiau šios revoliucinės technologijos potencialas yra neabejotinas ir jis džiugina kelią spindinčių naujovių lauke AI ir puslaidininkių srityse.
D.U.K.:
The source of the article is from the blog elblog.pl