Z naraščajočo potrebo po demokratizaciji umetne inteligence, ki jo poganja generativna umetna inteligenca, podjetje Idein Inc. s sedežem v Chiyodi, Tokio, pod vodstvom izvršnega direktorja Koichija Nakamure, je predstavilo napredno rešitev za analizo slik, imenovano “LLM App na Actcast”. Ta rešitev omogoča brezšivno integracijo večmodalnih velikih jezikovnih modelov (LLM) s platformo za obdelavo obrobne umetne inteligence “Actcast”, kar vodi v bistveno hitrejše in stroškovno učinkovitejše uvedbe dokazil o konceptu (PoC).
Aplikacija izkorišča zmogljivosti oblakovnih LLM-jev za izvajanje analize slik neposredno na obrobni napravi povezani z platformo Actcast. Posebej ob izdaji programske opreme uporablja vmesnike API iz oblak LLM-jev, kot je OpenAI’s ChatGPT. To omogoča podjetjem, da začnejo s PoC-ji, ne da bi za to namenili čas in vire za razvoj programske opreme, s čimer se osredotočajo na ključni vidik potrjevanja poslovnih hipotez.
Posebna prednost LLM App na Actcast je njegova dostopnost neinženirjem prek hitrega inženiringa – uporaba naravnih jezikovnih navodil za delovanje. Idein Inc. s tem zmanjšuje kompleksnost, ki je običajno povezana z izvajanjem obrobne umetne inteligence, in s tem odpira nove možnosti za lažje izvajanje naprednih PoC del za podjetja.
Kot dopolnitev funkcionalnosti je platforma za obdelavo obrobne umetne inteligence Actcast podjetja Idein Inc. opremljena z lastnostmi, ki omogočajo različnim zaznavnim napravam, kot so kamere, mikrofoni in termometri, zbiranje celovitih informacij iz fizičnih prostorov. Omogoča tudi oddaljeno upravljanje s številnimi napravami. Utemeljitev teh zmogljivosti v okviru aplikacije LLM na Actcast predstavlja pomemben korak v zavezanosti podjetja k spodbujanju družbene implementacije obrobne umetne inteligence.
Za dodatne informacije o ozadju razvoja aplikacije LLM na Actcast in druge podrobnosti lahko bralci referirajo na blogovno objavo CTO Yamade na uradni spletni strani Ideina.
O podjetju Idein Inc.: Podjetje Idein Inc. je start-up znano po svoji lastni tehnologiji, ki omogoča hitro izvajanje globokih učenj na splošne in stroškovno učinkovite naprave. Podjetje ne ponuja le svoje platforme za zbiranje podatkov s pomočjo obrobne umetne inteligence, Actcast, temveč sodeluje tudi z več kot 170 podjetji iz različnih industrij. Idein še naprej stremi k širitvi uporabe sistemov AI/IoT z namenom, da bi vse informacije v resničnem svetu postale obvladljive preko programske opreme.
Pomembni dodatni dejstvi:
– Obrobna umetna inteligenca se nanaša na uporabo algoritmov umetne inteligence, ki se obdelujejo lokalno na strojnih napravah namesto v oblaku.
– Veliki jezikovni modeli (LLM) kot je ChatGPT običajno zahtevajo velike računalniške vire, ki so bili tradicionalno locirani v centraliziranih podatkovnih centrih.
– Integracija LLM-jev s platformami za obdelavo obrobne umetne inteligence, kot jo izvaja podjetje Idein Inc., lahko prinese obdelavo AI bliže virom podatkov, kar zmanjšuje zakasnitve in lahko izboljša zasebnost podatkov.
– Hitri inženiring je praksa oblikovanja vhodov (navodil), ki učinkovito komunicirajo naloge sistemom AI, razvijajoče področje, pomembno za interakcijo med človekom in AI.
Ključni izzivi in kontroverze:
– Izzivi obrobne umetne inteligence: Eno največjih izzivov so omejene vire. Obrobne naprave imajo omejeno računalniško moč in pomnilnik, kar zahteva učinkovite modele umetne inteligence.
– Zasebnost podatkov: Medtem ko lahko obrobna obdelava pripomore k zaščiti podatkov z lokalno obdelavo, lahko integracija oblak LLM-ov prinese ranljivosti ali težave s skladnostjo, če niso pravilno upravljani.
– Zanesljivost in doslednost: Zagotavljanje, da sistemi AI dosledno delujejo na različnih obrobnih napravah, je izzivno, še posebej ker imajo te naprave različne zmožnosti.
Prednosti:
– Zmanjšana zakasnitev: S procesiranjem podatkov na obrobnih napravah so odzivni časi lahko veliko hitrejši kot pri obdelavi v oblaku.
– Nižje zahteve po pasovni širini: Prenos surovih podatkov v oblak lahko zahteva veliko pasovne širine. Lokalna obdelava zmanjša to zahtevo.
– Izboljšana zasebnost: Lokalna obdelava podatkov lahko pomaga pri izpolnjevanju zahtev zakonodaje z zadrževanjem občutljivih podatkov na kraju samem.
Slabosti:
– Računske omejitve: Obrobne naprave morda niso tako močne kot oblak infrastruktura, kar lahko omeji kompleksnost nalog, ki jih lahko izvedejo.
– Razširljivost: Upravljanje in posodabljanje modelov AI na številnih obrobnih napravah je lahko bolj kompleksno kot v centralizirani infrastrukturi v oblaku.
– Odvisnost od storitev v oblaku: Čeprav integracija olajša uvedbo PoC, lahko še vedno temelji na storitvah v oblaku, kot je ChatGPT, kar bi lahko bil možen točka odpovedi ali ranljivost.
Za dodatne informacije o podjetju Idein Inc. in njihovih razvojih v obrobni umetni inteligenci, obiščite uradno spletno stran Ideina.
The source of the article is from the blog regiozottegem.be