С нарастването на нуждата от демократизация на изкуствен интелект, поддържан от генеративен ИИ, Idein Inc. със седалище в Чиода, Токио, и председател на Изпълнителния директор Коичи Накамура, представи напреднало решение за анализ на изображения, известно като „LLM App on Actcast“. Това решение позволява безпроблемната интеграция на мултимодални големи езикови модели (LLMs) с платформата за Edge ИИ „Actcast“, като ускорява значително и прави по-ефективни развитията на концепции (PoC).
Приложението използва възможностите на базирани в облаке LLMs за извършване на анализ на изображения директно на устройствата на ръба, свързани с платформата Actcast. Конкретно, на момента на пускането си, софтуерът използва API-та от облачни LLMs като OpenAI’s ChatGPT. Това позволява на бизнесите да започнат PoC проекти, без да отделят време и ресурси за разработка на софтуер, като се фокусират върху критичния аспект на валидирането на бизнес хипотезите.
Изключителното предимство на LLM App on Actcast е достъпността му за неинженери чрез prompt engineering – използването на инструкции на естествен език за операция. С намаляването на сложността, обикновено свързана с прилагането на Edge ИИ, Idein Inc. отбелязва нов начин за правене на напредничави работи за концепцията на AI по-ефективни и подредени за бизнесите.
Допълнение към неговата функция, Edge AI платформата на Idein Inc., Actcast, разполага с функционалности, които позволяват на различни сензорни устройства като камери, микрофони и термометри да събират изчерпателна информация от физическите пространства. Тя също така позволява дистанционно управление на голям брой устройства. Усъвършенството на тези възможности в LLM App on Actcast представлява важна стъпка в ангажимента на компанията за насърчаване на общественото внедряване на Edge ИИ.
За допълнителни подробности относно задълженията на разработката на LLM App on Actcast и други детайли, читателите могат да се обърнат към блог публикацията от г-н Ямада на официалния уебсайт на Idein.
Относно Idein Inc.: Idein Inc. е стартъп, известен със своята собствена технология, която позволява бързо изваждане на дълбоко познание на универсални, ценово ефективни устройства. Компанията не само предоставя своята платформа за събиране на данни от Edge ИИ, Actcast, но също си сътрудничи с над 170 компании от различни индустрии. Idein продължава да се стреми към разширяване на използването на AI/IoT системи с цел направата на цялата информация в реалния свят управляема чрез софтуер.
Подходящи Допълнителни Факти:
– Edge ИИ се отнася до използването на алгоритми за изкуствен интелект, обработвани локално на хардуерни устройства, вместо в облака.
– Големите езикови модели (LLMs) като ChatGPT обикновено изискват значителни изчислителни ресурси, които традиционно се намират в централизирани данни центрове.
– Интеграцията на LLMs с Edge ИИ платформите, както прави Idein Inc., може да донесе обработка на ИИ по-близо до източниците на данни, намалявайки латентността и вероятно подобрявайки поверителността на данните.
– Prompt engineering е практика за създаване на входове (промпти), които ефективно комуникират задачите към системи на АИ, растяща област, важна за човешкото-АИ взаимодействие.
Основни Предизвикателства и Контроверзии:
– Предизвикателства на Edge ИИ: Един от най-големите предизвикателства е ограниченията на ресурсите. Устройствата на ръба разполагат с ограничена обработваща мощност и памет, което налага необходимостта от ефективни модели на изкуствен интелект.
– Поверителност на Данните: И докато ръбовото изчисляване може да подобри поверителността на данните чрез обработка на данни на място, интегрирането на облачни LLMs може да внесе уязвимости или проблеми със съответствието, ако не се управляват правилно.
– Надеждност и Консистентност: Осигуряването, че системите на ИИ се вършат последователно на различни устройства на ръба, е предизвикателно, особено тъй като тези устройства могат да имат различни възможности.
Предимства:
– Намалено Време на Латентност: Чрез обработката на данни на устройствата на ръба времената на отговор могат да бъдат много по-бързи от облачната обработка.
– По-ниски Изисквания за Широчина на Лентата: Предаването на сурови данни към облака може да изисква голям обем на широка лента. Локалната обработка намалява този изискване.
– Подобрена Поверителност: Локалната обработка на данни може да помогне за срещането на изискванията за съответствие с регулаторните изисквания, като запазва чувствителните данни на място.
Недостатъци:
– Изчислителни Ограничения: Устройствата на ръба може да не са толкова мощни, колкото инфраструктурата на облака, което може да ограничи сложността на задачите, които могат да изпълняват.
– Скалируемост: Управлението и актуализирането на модели на ИИ на множество устройства на ръба може да бъде по-сложно от централизираната облачна инфраструктура.
– Зависимост от Облачни Услуги: Въпреки че интегрирането успоредно облекчава разгъвката на PoC, все още може да се базира на облачни услуги като ChatGPT, което може да бъде приемна точка отказ или уязвимост.
За повече информация за Idein Inc. и техните разработки в областта на Edge ИИ, можете да посетите официалния уебсайт на Idein.
The source of the article is from the blog foodnext.nl