עם הצורך המתרחב לדמוקרטיזציה של AI באמצעות AI יוצרת, Idein Inc. בעל מושב בChiyoda, טוקיו, בראשות המנכ"ל קואיצ'י נקאמורה, חשפה פתרון מתקדם לניתוח תמונות הידוע כ"אפליקציית LLM on Actcast". פתרון זה מאפשר שילוב חלק של דגמים שפתיים גדולים מרובי מודלם (LLMs) בפלטפורמת AI Edge "Actcast", מביא לביצועי הפקת רעיונות (PoC) מהירים ויעילים יותר באופן חשבוני.
האפליקציה משתמשת ביכולות של LLM בהיענות של ענן כדי לבצע ניתוח תמונות ישירות על המכשירים בסוף הקצה המשותפים עם פלטפורמת Actcast. במיוחד, בזמן יציאתה, התוכנה משתמשת ב- APIs מה- LLM בענן כמו ChatGPT של OpenAI. דבר זה מאפשר לעסקים להתחיל בממוצעים בלי להקדיש זמן ומשאבים רבים לפיתוח תוכנה, מאפשר לעצמם להתמקד באספקת הוכחה להיתרי עסקיים.
חוסן מסוים של האפליקציה LLM on Actcast הוא נגישותו לאנשי המקצוע הלא-הנדסיים דרך – השימוש בהוראות בשפה טבעית לפעולה. על ידי הפחתת המורכבות הנפוצה לרגע ביישום של אמצעי ה- AI בקצה, Idein Inc. פותחת דרך חדשה בכך שהיא מאפשרת להוכיח בצורת קלה ויעילה יותר עבור העסקים את עבודת הוכחת ההשקעה המורכבת של AI.
בהמשך פונקציונליות שלה, הפלטפורמת AI Edge Actcast של Idein Inc. מצויה עם תכונות שמאפשרות למכשירים רגישים שונים כמו מצלמות, מיקרופונים וטרמומטרים לאסוף מידע מקיף ממרחבים פיזיים. היא גם מאפשרת ניהול מרחוק של מספר רב של מכשירים. שילוב היכולות הללו בתוך LLM App on Actcast מייצג צעד חשוב בהתחייבות החברה להפצת הכמיות החברתית של AI בקצה.
לפרטים נוספים אודות הרקע לפיתוח של LLM אפליקצית on Actcast ופרטים נוספים, קוראים יכולים להתייחס לפוסט בבלוג מאת סי טי אוויר על האתר הרשמי של Idein.
אודות Idein Inc.׃ Idein Inc. היא חברת סטארט-אפ הידועה בטכנולוגיה פטנטית המאפשרת יישום מהיר של למידת עמוקה לפעול על התקנים בעלות מחיר נמוך ואפשריות כלליות. החברה לא רק מספקת את פלטפורמת איסוף נתוני AI בקצה שלה, Actcast, אלא גם משתתפת בשיתוף עבודה עם יותר מ-170 חברות ממגוון תעשיות. Idein ממשיכה להתמיד ללאיצוב השימוש במערכות AI/IoT עם מטרה להפוך את כל המידע בעולם האמיתי לניתן לניהול דרך תוכנה.
עובדות נוספות רלוונטיות׃
– AI בקצה מתייחס לשימוש באלגוריתמי AI שנעשים עיבוד מקומי על התקנים החומרתיים במקום בענן.
– דגמים גדולים של שפת ה-Large Language Models (LLMs) כמו ChatGPT דורשים משאבי חישול מכריעים, שמצויים לרוב במרכזי מידע מרוכזים.
– שילוב ה-LLMs עם פלטפורמות AI בקצה, כמו שנעשה על-ידי Idein Inc., יכול להביא את העיבוד של AI קרוב יותר למקורות הנתונים, להפחתת לטאנסיה ואולי לשיפור פרטיות הנתונים.
– היא התרגלות ליצירת קלטים (הפעלות) אשר מביאים לידי ביטוי משימות למערכות AI, תעשייה נועזת החשובה לאינטראקציה האדם- AI.
אתגרים ופולמוסים מרכזיים׃
– אתגרי AI בקצה׃ אחד האתגרים הגדולים הוא אילוצי המשאב. למכשירי קצה יש כוח עיבוד וזיכרון מוגבל, דבר הדורש צורך בדגמים של AI יעילים.
– פרטיות נתונים׃ במהלך העיבוד בקצה יכול לשפר את הפרטיות של נתונים על ידי עיבוד הנתונים במקום, ועם זאת שילוב של דגמים של LLM בענן יכול להעמיד את הנתונים בסיכונים או בעיות בנושא תאימות אם אינו מנוהל בצורה נכונה.
– אמינות ועקביות׃ להבטיח כי המערכות AI תופק באופן עקבי על מכשירי Edge שונים היא אתגר, במיוחד שמכשירים אלו עשויים לכלול יכולות שונות.
יתרונות׃
– הפחתת לטאנסיה׃ על ידי עיבוד הנתונים על מכשירי Edge, זמני התגובה עשויים להיות הרבה יותר מהירים מעיבוד מבוסס ענן.
– דרישות רוחב פס נמוכות׃ שליחת הנתונים הגולמיים לענן עשוי לדרוש רוחב פס בעלות, עיבוד מקומי מפחית דרישת זה.
– שיפור הפרטיות׃ עיבוד מקומי של נתונים עשוי לעזור בעמיתיות במימון תקנים רגולטוריים על ידי שמירת הנתונים הרגישים באתר.
חסרונות׃
– מגבלות חישוביות׃ מכשירי Edge עשויים לא להיות פוררים כמערכות הענן, מה שעשוי להגביל את רמת המורכבות של משימות שהם יכולים לעשות.
– הרחבתיות׃ לנהל ולעדכן דגמים של AI בין המכשירים בקצה רבים עשוי להיות יותר מורכב מאשר בתשתית מרכזית בענן.
– תלות בשירותי ענן׃ יחידת טיפול במימוש PoC, על הלוות בשירותי ענן כמו ChatGPT, אשר לא תמיד אמינה או צורך תוך כדי.
The source of the article is from the blog enp.gr