מיקרוסופט מתמודדת עם חוסר המדוייקות שנוצר על ידי דגמי המדמ"ח שלה, הנקראים "הולוצינציות", על מנת לשפר אמינות ודיוק בתגובות. ההולוצינציות אלו מתרחשות כאשר שירות המדמ"ח מפיק מידע מטעה או בלתי נתמך במהלך יצירת התגובה.
על מנת לטפל בבעיה זו, מיקרוסופט מציעה פתרונות חדשניים:
השלמת Copilot עם נתוני חיפוש מ-Bing:
על ידי שילוב נתוני חיפוש מ-Bing באמצעות טכניקת "ההרחבת באמצעות קריאה", Copilot מרווח מידע נוסף ללא צורך באימון מחודש. על ידי השימוש בתגובות מ-Bing, במדד המיקום, ובנתוני הדירוג, Copilot משפר את דיוקו, מספק ציטוטים רלוונטיים למשתמשים על מנת לוודא את המידע.
כלי ללקוחות חיצוניים:
מיקרוסופט מציעה את שירות Azure OpenAI עם תכונת "על הנתונים שלך", שמאפשרת אינטגרציה של מידע פנימי למיישםי מידע מלאכותי (AI) עבור עסקים וארגונים. בנוסף, כלי שמקפיץ זיהוי בזמן אמת מקבל מדד ה"ייצוגיות" של תגובות באמצעות צ'אטבוטים.
חסימה ותיקון בזמן אמת:
מיקרוסופט מפתחת תכונה להתמודד עם הולוצינציות של מדמ"ח באמצעות חסימה ותיקון בזמן אמת של מידע לא מבוסס. לאחר זיהוי שגיאות עקירה, הפונקציה מכתבת באופן אוטומטי מידע מחודש במבוסס על מידע קונקרטי, משפרת דיוק. תאריך השחרור לתכונה זו עדיין לא נכרז.
המחוון של מיקרוסופט לשיפור האמינות והדיוק של מערכות המדמ"ח הינו חיוני לעתידן של הטכנולוגיה. על ידי הפחתת ההולוצינציות והבטיחות שתגובות מבוססות נתונים, ניתן להשתמש במדמ"ח בצורה יעילה במגוון רחב של תעשיות, מספק טבעות בריאות לעסקים ולמשתמשים.
בנוסף לפתרונות טכניים, אי אפשר להעלות יתרון הנתונים לאימון איכותי בפיתוח דגמי מדמ"ח. רק בעזרת נתונים מדויקים ואמינים יכולים דגמי מדמ"ח להפיק תגובות קונקרטיות וללא שגיאות.
חקיקה של מיקרוסופט לקדם את הדיוק של דגמי מדמ"ח שלה מודגשת על ידי יצירת תרחישים נוספים ושיקולים שמתעוררים כדי לטפל באתגרים ולרפוות עוד יותר את המהותיות של פלטי מדמ"ח.
שאלות ותשובות מרכזיות:
1. כיצד מיקרוסופט מתכוונת להתמודד עם הולוצינציות של מדמ"ח מעבר לתיקון בזמן אמת?
מיקרוסופט חוקרת אלגוריתמים מתקדמים לזיהוי של כשלים מתוכנתים באופן פומבי לזהות פוטנציאל ולפנות מראש מופעים של הולוצינציות לפני שהם קורים. על ידי מיקור גלוי לחישובי תחזית, סיסטמות מדמ"ח יכולות לצפות ולמנוע פלטים מוסיפים.
2. איזה תפקיד משחקת התערבות בנושא הדיוק של המדמ"ח?
למרות ההתקדמויות במנגנוני תיקון אוטומטיים, ניהול אנושי נשאר חיוני לוידוא דיוק של פלטי מדמ"ח. מיקרוסופט מדגישה את חשיבות גישות ההילוך של האדם כדי להבטיח איכות בפלטי מדמ"ח.
אתגרים ופולמוסים:
אחד האתגרים העיקריים בשיפור דיוק המדגמים של מדמ"ח נמצא במאבק בין מורכבות הדגם וביניותו. ככל שהדגמים של מדמ"ח מפורכבים יותר, הבנת התהליכים המכרעים המתחברים מתחילה להיות מורכבת יותר, מה שיוצר אתגרים לכתוב הבעיות מהטובים שתהיו במצב לטפל באי דיוק.
יתרונות וחסרונות:
יתרונות:
– אמינות משופרת: האסטרטגיות של מיקרוסופט פותחות אופן למענה אמין יותר של מערכות מדמ"ח, המקנות ביטחון בקרב משתמשים ועסקים המשתמשים בטכנולוגיות מדמ"ח.
– חוויית משתמש משופרת: על ידי הפחתת הולוציניות ושגיאות, יישומים של מדמ"ח יכולים להציע למשתמשים מידע יותר מדויק ורלוונטי מתוך הקשר.
– תחרותיות בתעשייה: השקעה בדיוק של מדמ"ח מצביעה את מיקרוסופט בשיא החדשנות הטכנולוגית, מה שמוכרים ללקוחות שמחפשים פתרונות מדמ"ח אמינים.
חסרונות:
– דורש הון רב: המימוש של אסטרטגיות דיוק מדמ"ח מתקדמות עלול לדרוש כוח מחשב משמעותי והיכרות מומחית, אולי מגביל את הנגישות לארגונים קטנים ובינוניים.
– השלכות אתיות: מסע החיפוש אחר דיוק במדמ"ח גורם לשאלות אתיות הנוגעות לפרטיות, הטיה, והשקפיות, הדורשות ניווט היטב כדי לתמוך בתקני האתיקה.
בתקווה ללטש לאו ולדיוק של מדמ"ח, מיקרוסופט מדגישה את חשיבות החדשנות הרציפה והשיתוף פעולה להתמודדות עם האתגרים ולהניע את תחום המדמ"ח לכיוון של דיוק וצפיפות משופרים.
לעוד תובנות על פעילויות ה-Microsoft בתחום ה-Microsoft, בקר ב-Microsoft.