С увеличаващата се нужда от демократизация на изкуствен интелект, предизвикана от генеративния изкуствен интелект, Idein Inc., с централа в Чиода, Токио, и председател на директорския съвет Коичи Накамура, представи напреднало решение за анализ на изображения, известно като „LLM App on Actcast“. Това решение позволява безпроблемното интегриране на мултимодални големи модели на езика (LLM) с Edge AI платформата „Actcast“, което води до значително по-бързи и по-ефективни развития на концепцията (PoC).
Приложението използва възможностите на LLM в облака за извършване на анализ на изображения директно на ръбните устройства, свързани с платформата Actcast. Конкретно, по време на пускането си, софтуерът използва API от облачните LLM като ChatGPT на OpenAI. Това позволява на бизнесите да инициират PoC без да посвещават време и ресурси на разработката на софтуер, фокусирайки се върху критичния аспект за валидиране на бизнес хипотези.
Едно от предимствата на LLM App on Actcast е достъпността му за неинженери чрез prompt engineering – използването на инструкции на естествен език за работа. Чрез намаляване на сложността, обикновено свързана със внедряването на Edge AI, Idein Inc. поставя нови стъпки за стандартизиране на работата по напредналите AI концепции за бизнеса.
Допълнявайки своите функционалности, Edge AI платформата на Idein Inc., Actcast, е оборудвана с функции, които позволяват на различни устройства за усет (камери, микрофони, термометри) да събират обширна информация от физически пространства. Тя също така позволява отдалеченото управление на голям брой устройства. Съчетанието на тези възможности в LLM App on Actcast представлява важна стъпка в стремежа на компанията към насърчаване на социалното внедряване на Edge AI.
За допълнителни подробности относно разработката на LLM App on Actcast и други детайли, читателите могат да се обърнат към публикацията на CTO Ямада в официалния уебсайт на Idein.
Относно Idein Inc.: Idein Inc. е стартъп, известен със своята технология, която позволява бързото извождане на deep learning на общоползваеми и икономични устройства. Компанията не само предоставя своята платформа за събиране на данни от Edge AI, Actcast, но и си партнира с над 170 компании от различни индустрии. Idein продължава да се стреми към разширяване на използването на AI/IoT системи с цел направата на всички данни в реалния свят управляеми чрез софтуер.
Свързани допълнителни факти:
– Edge AI се отнася до използването на алгоритми на изкуствен интелект, обработвани локално на хардуерни устройства, вместо в облака.
– Големите модели на езика (LLMs) като ChatGPT обикновено изискват значителни изчислителни ресурси, които обикновено са в централизирани данни центрове.
– Интеграцията на LLMs с Edge AI платформи, както прави Idein Inc., може да доведе до по-близка обработка на AI към източниците на данни, намалявайки забавянето и подобрявайки защитата на данните.
– Prompt engineering е практиката за изграждане на входове (prompt) за ефективно комуникиране на задачи към AI системи, разрастващо се поле, важно за взаимодействието човек-изкуствен интелект.
Ключови предизвикателства и контроверзии:
– Предизвикателства на Edge AI: Един от най-големите предизвикателства е ограниченият ресурс. На ръбните устройства липсваща обработваща мощност и памет, което налага нуждата от ефективни AI модели.
– Защита на данните: Въпреки че ръбното изчисляване може да подобри защитата на данни чрез обработка на данните локално, интегрирането на облачни LLMs може да представи уязвимости или спазвателни проблеми, ако не се управляват правилно.
– Надеждност и последователност: Осигуряването на последователно функциониране на AI системите на различни ръбни устройства е предизвикателно, особено тъй като тези устройства могат да имат различни възможности.
Предимства:
– Намалено забавяне: Чрез обработване на данни на ръбните устройства отговорното време може да е много по-бързо от обработката в облака.
– По-ниски изисквания за пропускателна способност: Изпращането на сурови данни в облака може да изисква голяма пропускателна способност. Локалната обработка намалява този изискване.
– Подобрена защита на личните данни: Локалната обработка на данни може да помогне за изпълнението на изискванията за регулаторно съответствие, като запазва чувствителните данни на място.
Недостатъци:
– Изчислителни ограничения: Ръбните устройства може да не са толкова мощни, колкото облачната инфраструктура, което може да ограничи сложността на задачите, които могат да изпълняват.
– Скалируемост: Управлението и актуализацията на AI модели по няколко ръбни устройства може да бъде по-сложно от централизираната облачна инфраструктура.
– Зависимост от облачни услуги: Въпреки че интеграцията улеснява разгъването на PoC, тя все пак може да се базира на облачни услуги като ChatGPT, които могат да са точка на отказ или уязвимост.
За повече информация за Idein Inc. и техните разработки в областта на Edge AI, можете посетете официалния уебсайт на Idein.
The source of the article is from the blog myshopsguide.com