Зі зростаючою потребою у демократизації штучного інтелекту, зумовленою генеративним штучним інтелектом, Idein Inc., з центральним офісом у Чіода, Токіо, та очолювана генеральним директором Коічі Накамурою, представила нове високорівневе рішення для аналізу зображень під назвою “LLM App on Actcast”. Це рішення дозволяє безперервну інтеграцію багатомодальних великих мовних моделей (LLM) з платформою “Actcast” для Edge AI, що значно прискорює та зменшує витрати на впровадження концепційного доказу (PoC).
Додаток використовує можливості хмарних LLM для аналізу зображень безпосередньо на краї пристроїв, які пов’язані з платформою Actcast. Зокрема на момент виходу, програмне забезпечення використовує API від хмарних LLM, таких як ChatGPT від OpenAI. Це дає можливість бізнесу запускати PoC без затрат на розвиток програмного забезпечення, зосереджуючись на валідації бізнес-гіпотез.
Особливістю LLM App on Actcast є її доступність для неінженерів через швидке інженерінг – використання природної мови для введення команд. Зменшуючи складність, що зазвичай пов’язана з впровадженням Edge AI, Idein Inc. відкриває нові можливості для упрощення та ефективності у проведенні висунення концепцій з використанням розширеного штучного інтелекту для бізнесу.
Додаткові функції платформи Edge AI Actcast від Idein Inc. дозволяють різним сенсорним пристроям, таким як камери, мікрофони та термометри, збирати повну інформацію з фізичних просторів. Це також дозволяє дистанційне управління великою кількістю пристроїв. Кульмінація цих можливостей в LLM App on Actcast є важливим кроком у зобов’язаннях компанії щодо просування соціального впровадження Edge AI.
Для отримання додаткової інформації про розробку додатку LLM on Actcast та інші деталі читачі можуть звертатися до блог-поста ХКГ Ямади на офіційному сайті Idein.
Про Idein Inc.: Idein Inc. – це стартап відомий своєю власною технологією, яка дозволяє швидке запускання глибокого навчання на універсальних, економічно доступних пристроях. Компанія надає свою платформу для збору даних Edge AI, Actcast, і співпрацює з понад 170 компаніями з різних галузей промисловості. Idein продовжує прагнути до розширення використання систем AI/IoT з метою зробити управління усією інформацією в реальному світі можливим через програмне забезпечення.
Додаткові актуальні факти:
– Edge AI – це використання алгоритмів штучного інтелекту, які обробляються локально на апаратних пристроях, а не в хмарі.
– Великі мовні моделі (LLM), такі як ChatGPT, зазвичай вимагають значних обчислювальних ресурсів, які традиційно розташовані в централізованих дата-центрах.
– Інтеграція LLM з платформами Edge AI, як то зроблено Idein Inc., може наблизити обробку штучного інтелекту до джерел даних, зменшуючи затримки та, можливо, поліпшуючи конфіденційність даних.
– Швидке інженерінг – це практика створення вхідних даних (підказок), які ефективно комунікують завдання до систем штучного інтелекту, еміруюче поле важливе для взаємодії людина-штучний інтелект.
Основні виклики та суперечки:
– Виклики Edge AI: Однією з найбільших проблем є обмежені ресурси. У краї пристроях обмежена потужність обробки та пам’ять, що вимагає ефективних моделей штучного інтелекту.
– Конфіденційність даних: Хоча країове обчислення може покращити конфіденційність даних через локальну обробку, використання хмарних LLM може внести вразливості або питання відповідності, якщо не керувати їми правильно.
– Надійність та постійність: Забезпечення того, щоб системи штучного інтелекту працювали однаково на різних краї пристроях, викликово, особливо з урахуванням того, що ці пристрої можуть мати різні можливості.
Переваги:
– Зменшена затримка: Обробляючи дані на краях пристроїв, час відгуку може бути набагато швидше, ніж обробка в хмарі.
– Нижчі вимоги до пропускної здатності: Передача оброблених даних в хмару може бути витратною за пропускну здатність. Локальна обробка зменшує це вимогу.
– Покращена конфіденційність: Локальна обробка даних може допомогти відповісти на вимоги регулювання за рахунок зберігання чутливих даних на місці.
Недоліки:
– Обчислювальні обмеження: Країові пристрої можуть бути менш потужними, ніж хмарна інфраструктура, що може обмежувати складність завдань, які вони можуть виконувати.
– Масштабованість: Управління та оновлення моделей штучного інтелекту по всіх краях пристроїв може бути складніше, ніж у централізованій хмаровій інфраструктурі.
– Залежність від хмарних сервісів: Хоча інтеграція полегшує впровадження PoC, вона може все ще орієнтуватися на хмарні сервіси, такі як ChatGPT, що може бути точкою вразливості або недоліком.
Для отримання додаткової інформації про Idein Inc. та їх розробки в області Edge AI, ви можете відвідати офіційний сайт Idein.
The source of the article is from the blog mivalle.net.ar