עם הצורך המתמיד בדמוקרטיזציה של הלמידה העמוקה המובילה על ידי הבאת לידי מבנה AI, Idein Inc. הממוקמת ב-Chiyoda, טוקיו, ומובילה על ידי ה-CEO קואיצ'י נקאמורה, חשפה פתרון מתקדם לניתוח תמונות הידוע תחת השם "LLM App on Actcast". פתרון זה מאפשר אינטגרציה חלקה של מודלים מולטימודלריים גדולים במיוחד (LLMs) עם פלטפורמת AI מקצועית "Actcast", המביא לאימות בקונספט (PoC) קצר יותר ויעיל ביותר מאי פעם.
האפליקציה משתמשת ביכולות של LLMs בענן כדי לבצע אינטגרציה של ניתוח התמונות ישירות במכשירי הקצה המחוברים עם פלטפורמת Actcast. במיוחד, בזמן השיחרור שלה, התוכנה משתמשת ב- APIים מLLMs בענן כמו OpenAI's ChatGPT. כך חברות יכולות להתחיל את ה-PoCs מבלי להקדיש זמן ומשאבים לפיתוח תוכנה, ולכן להתמקד בניסויים חיוניים של ההשערות העסקיות.
יתרון מיוחד של ה-LLM App on Actcast הוא הגישה שלו ללא-מהנדסים דרך הנדסה מידית—שימוש בהוראות בשפת בהירה לפעולה. על ידי ירידת הרמה שקוראים רגילה עם המימוש שבדרך כלל נמצא בקשר עם מערך AI בקצה, Idein Inc. פותחת אדמת חדשות בהפקת עבודת פיתוח הדוקים והיעילה יותר כלפי העסקים.
להשלים את פעולותיו, פלטפורמת AI בקצה Actcast המביאה עם תכונות המאפשרות למכשירי חיישן שונים כמו מצלמות, מיקרופונים וטרמומטרים לאסוף מידע מקיף מסביבות פיזיות. זה מאפשר גם לנהל מרחוק מספר רב של מכשירים. התוצאה של היכולות הללו בתוך ה-LLM App on Actcast מייצגת צעד חשוב בהתחייבות החברה לקידום המימוש החברתי של טכנולוגיית הAI בקצה.
לעומת כך, עבור עוד הבנת רקע על פיתוח ה-LLM App on Actcast ופרטים נוספים, קוראים יכולים להתייחס למאמר בבלוג של ה-CTO יאמאדה באתר האינטרנט הרשמי של Idein.
אודות Idein Inc.: Idein Inc. היא חברת סטארטאפ הידועה בטכנולוגיית הבעת למידה עמוקה מהירה המריצה על מכשירים כלליים, זולים. החברה אינה מספקת רק פלטפורמת איסוף נתונים Edge AI המקצועית שלה, Actcast, אלא משתתפת בשיתוף פעולה עם מעל 170 חברות מתעשיות שונות. Idein ממשיכה לשקול את השימוש במערכות AI/IoT עם מטרה להפוך את כל המידע בעולם האמיתי לניהולי דרך תוכנה.
עובדות נוספות רלוונטיות:
– Edge AI מתייחסת לשימוש באלגוריתמי למידת מכונה המעובדים מקומית על מערכות החומרה במקום בענן.
– מודלי שפה גדולים (LLMs) כגון ChatGPT דורשים משאבי חישוב משמעותיים, שהסורק מסורתית היו ממוקמים במרכזי נתונים מרכזיים.
– אינטגרציה של LLMs עם פלטפורמות Edge AI, כשתה critiquesy Idein Inc., יכול להביא להבעת AI קרוב יותר למקורות המידע, להפחתת לטנציה ואפשר לשפר את פרטיות הנתונים.
– ההנדסה מידית היא השילוב של יצירה של קלטים (פקודות) המבטאים משימות ביעילות למערכות AI, תחום מובן חשוב לאינטראקציית אדם-מערכת AI.
אתגרים ופולמוסים מרכזיים:
– אתגרים בEdge AI: אחד האתגרים הגדולים הוא ההגבלות במשאבים. התקנים בקצה צריכים כוח עיבוד וזיכרון מוגבלים, שמחייבים דרשה למודלים AI יעילים.
– פרטיות נתונים: אולי עיבוד קצה יכול לשפר את פרטיות הנתונים על ידי עיבוד נתונים במקום, אך אינטגרציה של LLMs בענן עשויה להוסיף שורות חוליה או בעיות תקינה אם לא מנוהלת בצורה נכונה.
– אמינות ועקביות: מאפשרת שמערכות AI יבצעו בשקיבה שותפה ממוקם צריך להתמודד עם קושי להבטיח שמערכות AI ביצוע בצורה עקבית במכשירי קצה שונים.
יתרונות:
– לטנציה נמוכה: על ידי עיבוד נתונים על מכשירי קצה, זמני תגובה יכולים להיות הרבה יעילים יותר מעיבוד מבוסס ענן.
– דרישות רוחב פס נמוכות: לשלוח נתונים גולמיים לענן יכול להיות דרישת תקן ברוחב פס. עיבוד מקומי ממעט בדרישה זו.
– פרטיות שופרה: עיבוד נתונים מקומי עשוי לסייע בעמידה בדרישות התקנותית באמצעות שמירה על נתונים רגישים באתר.
חסרונות:
– מגבלות חישוביות:
מכשירי קצה עשויים לא להיות כזה חזקים כמו התשתיות בענן, עמיד כוח עבודה של המשימה שיכולים לבצע.
– קיימות:
לנהל ולעדכן את מודלי הAI במערכות גלויות יכול להיות מורכב יותר מבני התשתיות המרכזיים בענן.
– התלות בשירותי ענן:
במרכזיו מקל על מימוש הPoC, עלול להסתמך על שירותי ענן כמו ChatGPT, שעשוי להיות נקודת כשל או נקודת התקפה.
The source of the article is from the blog lanoticiadigital.com.ar