בהתעלמות מכישורם המתקדם ביותר להגיב לשאלות, צ'אטבוטים מלאי הבינה המלאכותית הנוכחיים פועלים בעיקר על פי עקרונות סטטיסטיים ויש להם יכולת מוגבלת לחשיבה אמיתית. העובדה הזו נבחנה לאחרונה על ידי ארגון מחקר בלתי רווחי בתחום הלמידת מכונה ענייני שם LAION, באמצעות פאזל לוגי פשוט הוערך על מנת לאתגר את יכולת השיוון המתקדמת של מודלי AI הללו.
הפאזל עצמו הוא ישיר: אם לאליס יש X אחים וY אחיות, כמה אחיות יש לאחיה של אליס? שאלה זו, שילדים בכיתות אלמנטריות נמוכות בדרך כלל יכולים לפתור עם מחשבה מסוימת, מחשפת פער עמוק בהבנה של AI. לדוגמה, אם לאליס יש שני אחים ושלוש אחיות, כאשר הם רואים את אליס כאחות, אז לאחיה, כולל את אליס, ישועבר ארבע האחיות.
לפי חוקרי LAION, רק המודל האחרון של OpenAI, GPT-4o, הצליח להגיע לפתרון שקרוב לדי נכון, בהצלחה של כ-65% מהפעמים, תלוי באופן פיצול השאלה המסוימת.
בניגוד לכך, דגמים קודמים כגון GPT-3, GPT-4, ויחד עם שונים מהסידות הגדולות כמו אנתופיק, פייסבוק, מטה, ואפילו חברות פחות ידועות כמו Mistral AI ו-Mosaic, נכשלו לראות בשאלה בפשטות. הם הביאו תשובות שגויות על פי הבניות לא נכונות שבצעו.
אולי באופן יותר מפתיע, כשהופיעו השגיאות שלהם, דגמים אלה תמיד הגיבו באופן שהופיע כהגנתי, יצרו הצדקים בלתי נראים כדי לשכנע את המשתמשים על חוקיות תשובותיהם שגויות. האירוע מדגיש את אתגר העצום אותו פותרי AI נתקלים בו כאשר מדובר בלבישת מכונות בסוגי הבנה שקָדרות שלהם אנשים לרוב מובטחים בהם.
שאלות מרכזיות ותשובות:
1. למה צ'אטבוטים המלאי AI נתקלו בקושי בפאזל הלוגי המוצג על ידי LAION?
צ'אטבוטים ממוכנים בעיקר על מודלים סטטיסטיים לעיבוד של שפה, אשר חסרים להם הבנה אמיתית של המושגים שהם מדברים עליהם. הם מאומנים על ידי ספריות נרחבות וממוקמים כדי לנבא את המילה או הביטוי הבא בהמשך כדי להבין באופן אמיתי את ההקשר או המשמעות. הם אינם מבינים מראש יחסים לוגיים או עקרונות שפע כלליים שהאדם מיישם בפתרון בעיה, מה שיוביל לקושי בפאזלים הדורשים הבנה כזאת.
2. אילו אתגרים עומדים לפני פתחני AI בהתמודדות עם המגבלות האלו?
פתחני AI נתקלים במספר אתגרים, כולל יצירת אלגוריתמים היכולים להבין באמת את ההקשר, הלוגיקה והשפעת כלל השפע. בניית מערכות שיכולות לבצע חשיבה לוגיקה ולהבין גרם עדיין נתקעת טכנולוגית משמעית. את אתגר גם הכופש פונצ’ואציות על סימונים ועיבוד סטים נטוניים כדי לאמן את יכולות ההשקפה הנואנסיות שלהם. ולוודא שמערכות AI יכולות לכלול מושגים שנלמדו במיכונים שונים ובתקרית.
3. מה המחלוקות הקשורות לצ'אטבוטי AI?
יש מחלוקות אתיות וחברתיות, כגון הפוטנציאל של AI להפיץ מידע שקרי, לשדרג קיום, ולהפחית פרטיות. קיים גם דיון ביכולת להשתמש בתוספות אלו לפליטת עבודות אנושיות, ובשאלות שקשורות לרמת התלות המתאימה במערכות AI בתוך תהליות קבלת ההחלטות בערכים שונים.