Suureneva vajadusega AI demokratiseerimise järele, mida juhib generatiivne AI, asutas Jaapani ettevõte Idein Inc. peamiselt Chiyodas, Tokyos, ja seda juhib tegevjuht Koichi Nakamura, uue edasijõudnud pildianalüüsilahenduse nimega “LLM App on Actcast”. See lahendus võimaldab multimodaalsete suurte keelemudelite (LLM) sujuvat integreerimist serva- AI platvormiga “Actcast”, viies seeläbi märkimisväärselt kiiremate ja kulutõhusamate kontseptsioonitõestuse (PoC) rakendusteni.
Rakendus kasutab pilvepõhiste LLM-ide võimeid pildianalüüsi tegemiseks otse servaseadmetes, mis on ühendatud Actcasti platvormiga. Tarkvara kasutab näiteks pilvepõhiste LLM-ide API-sid, näiteks OpenAI “ChatGPT” kasutamist. See võimaldab ettevõtetel alustada PoC-sid ilma aega ja ressursse tarkvaraarendusele pühendamata, keskendudes seega ärihüpoteeside valideerimise olulisele aspektile.
LLM App on Actcasti eriline eelis on selle kättesaadavus mittetehniliste inimeste jaoks läbi “prompt engineering” – loomuliku keelejuhiste kasutamise operatsioonideks. Idein Inc. lihtsustab serva- AI implementeerimisega seotud keerukust, tehes sellega ettevõtetele keeruka AI kontseptsioonitöö efektiivsemaks ja tõhusamaks.
Idein Inc. serva- AI platvorm Actcast on varustatud funktsioonidega, mis võimaldavad erinevate tajumisseadmete, nagu kaamerate, mikrofonide ja termomeetrite, koguda põhjalikku teavet füüsilistest ruumidest. Samuti võimaldab see suurt hulka seadmeid kaugjuhtida. Nende võimete kombineerimine LLM App on Actcasti raames on oluline samm ettevõtte pühendumises serva- AI sotsiaalse rakendamise edendamisele.
Täiendavaid üksikasju LLM App on Actcasti arendustausta ja muude üksikasjade kohta saavad lugejad leida CTO Yamada blogipostitusest Idein’i ametlikul veebisaidil.
Idein Inc. kohta: Idein Inc. on startup, tuntud oma omamaise tehnoloogia poolest, võimaldades kiiret süvaõppe järeldust töötada üldotstarbelistel, kuluefektiivsetel seadmetel. Ettevõte pakub mitte ainult serva- AI andmekogumisplatvormi Actcast, vaid teeb koostööd üle 170 ettevõtte erinevatest tööstusharudest. Idein jätkab püüdlusi AI/IoT süsteemide kasutamise laiendamise suunas, eesmärgiga muuta kogu reaalne maailma teave tarkvara kaudu haldatavaks.
Vastavaid täiendavaid fakte:
– Serva-AI viitab tehisintellekti algoritmide kasutamisele, mis töötlevad andmeid kohapeal riistvaraseadmetes pilve asemel.
– Suured keelemudelid (LLM-id) nagu ChatGPT nõuavad tavaliselt märkimisväärseid arvutusressursse, mis on traditsiooniliselt asunud kesksetes andmekeskustes.
– LLM-ide integreerimine serva-AI platvormidega, nagu teeb Idein Inc., võib tuua AI töötlemise lähemale andmeallikatele, vähendades viivitusaega ja parandades võimalikust andmekaitset.
Peamised väljakutsed ja vaidlused:
– Serva-AI väljakutsed: üks suurimaid väljakutseid on ressursside piiratus. Servaseadmetel on piiratud arvutusvõimsus ja mälu, mis nõuab efektiivsete AI mudelite vajadust.
– Andmekaitse: kuigi servaarvutus võib andmekaitset parandada, töödeldes andmeid kohapeal, võivad pilvepõhised LLM-id tuua kaasa haavatavusi või vastavuse küsimusi, kui neid ei hallata õigesti.
– Usaldusväärsus ja järjepidevus: tagada, et AI süsteemid toimiksid järjekindlalt erinevates servaseadmetes, on keeruline, eriti kuna neil seadmetel võivad olla erinevad võimalused.
Eelised:
– Viivituse vähendamine: andmete töötlemine servaseadmetel võib olla palju kiirem kui pilvepõhine töötlemine.
– Madalam ribalaiuse nõue: toorandmete edastamine pilve võib olla lugejale kulukas. Kohalik töötlemine vähendab seda nõuet.
– Andmekaitse parandamine: kohalik andmete töötlemine võib aidata vastata seadusandlikele nõudmistele, hoides tundlikud andmed kohapeal.
Puudused:
– Arvutuslikud piirangud: servaseadmed ei pruugi olla nii võimsad kui pilveinfrastruktuur, mis võib piirata ülesannete keerukusastet, mida nad suudavad täita.
– Skaleeritavus: AI mudelite haldamine ja värskendamine suurel hulgal servaseadmetel võib olla keerulisem kui kesksete pilveinfrastruktuuride puhul.
– Sõltuvus pilveteenustest: kuigi integratsioon hõlbustab PoC käivitamist, võib see ikkagi tugineda pilveteenustele nagu ChatGPT, mis võib olla rikkekoht või haavatavus.
Lisateabe saamiseks Idein Inc.-i ja nende arengute kohta serva-AI valdkonnas külastage Idein ametlikku veebisaiti.
The source of the article is from the blog dk1250.com