הקפט AI, חברה חדשנית באימוץ של AI יוצרת בחברות, הודיעה לאחרונה על מימון מוצלח של 2.35 מיליון דולר. המימון ישמש לטיפול בדאגות בנוגע לבטיחות, אבטחה ועמיתות הנוגעות לשימוש ב-Generative AI ובמודלים גדולים של שפה (LLMs) בעולם העסקים.
Generative AI ו-LLMs מציעים פוטנציאל רב לשיפור היעילות והפונקציונליות בתעשיות שונות. אך הסיכונים הנולדים מהטכנולוגיות הללו היו מחסור עיקרי לאימוץ מקיף שלהן. הקפט AI פועלת לחדר את הפער הזה על ידי ספק ערכת כלים מקיפה המבטיחה את השימוש ב-LLMs וב-Generative AI בצורה בטוחה ועומדת בתקנות.
המעגל הממומן הוביל על ידי Boldcap, עם השתתפות השקעה מזוהה מהסקטורים של AI, טכנולוגיות בריאות ועסקים. הקפט AI הוקמה ב-2022 על ידי סחיל אגרוואל ופרשנת הארשאנגי, שני דוקטורנטים מאוניברסיטת יייל ומקצועי AI מנוסים. הפלטפורמה של הקפט AI, הקרוייה Sentry, פועלת כשכבת בקרה בין LLMs ומשתמשים סופיים, ומציעה פונקציות בטיחות ובטיחות בסיסיות.
באמצעות השימוש ב-Sentry, הקפט AI כבר הראתה ירידה משמעותית בנקירות ב-LLMs. לדוגמה, במקרה של LlaMa2-7B, הפלטפורמה הצליחה להפחית במעצרים מ-6% לנמוך של 0.6%. המסלול המרשים הזה גרם לתשומת לבם של חברות ממובילות ב-Fortune 500, כמו חברת התשתית לנתונים מובילה שמשתמשת ב-Sentry כדי לקבל שליטה מלאה ונראות על כל פרויקטיהם של LLM.
הגישה המקיפה של הקפט AI לביטחון כוללת נראות ופיקוח מתוחכם על שימוש ב-LLM, הגנה על מידע רגיש ועמיתות מתוחכמת עם תקנות מתפתחות. הפלטפורמה לא רק זוהת ערכים, אלא גם מספקת למפתחים את הכלים הנדרשים לחזק את פתרונות ה- AI שלהם מול איומים נוכחיים ועתידיים.
חשיבות בטיחות ה- AI זוהתה על ידי ערכאים פוליטיים ומומחים, כפי שהופקטה בהקמת קונצורציום לטיחות AI על ידי ארגון תקנות NIST של ממשלת ארצות הברית. לוודא את בטיחות ועמיתות ה- AI הגנרטית הוא כבר לא רק פרקטיקה מומלצת אלא צורך.
המטרה של הקפט AI היא להעזר לחברות להוציא את הפוטנציאל המלא של AI היצורי בביטחה ועמיתות של היישומים שלהן. על ידי קביעת סטנדרט חדש בבטיחות של AI, החברה פועלת להגן על משתמשים וארגונים מפני איומים חדים ובו זמנית לקדם את האימוץ האחראי והנרחב של חידושי AI.
עם תמיכת המשקיעים ואפשרויות הפלטפורמה המתקדמות שלהם, הלחפט AI מעוצבת את השילוב והניהול של LLMs, מה שהופך את AI היצורית למציאות בטוחה ועומדת בתקנות לחברות בתעשיות שונות.
The source of the article is from the blog motopaddock.nl