כפי שטכנולוגיית האינטיליגנציה המלאכותית התפתחה במהירות בשנים האחרונות, מנכ"ל קודם של Salesforce, ריצ'רד סוצ'ר, מאמין שכל עוד יש מקום לשיפור. בתוך פודקאסט של מהדורת האוניברסיטה הרווארד לניהול עסקים, סוצ'ר דנה מידע על איך ניתן להתקדם במודלי שפה גדולים על ידי הזרקת קוד כתוב מראש וידביך על הצעות.
כיום, מודלים שפתיים גדולים מתבססים על חזון המילה העתידית על פי המידע הקודם. על בסיס הנתונים האלו המודלים יודעים להבין מצוין ולכתוב קוד, אך לעיתים הם מתקלקלים בהולוציאציות, כאשר הם מייצרים שגיאות עובדה כאילו הן אמת. הדבר מתקשה במיוחד כאשר ישנן שאלות מתמטיות מורכבות.
סוצ'ר הביא לדוגמה שאלה שבה ייתכן ומודל שפה גדול ימצא קשיים: "אם תעניק לתינוק 5,000 דולרים להשקעה בקרן סלולרית חסרת דמי ניהול מגיל לידה, ובהנחה שקיים תשואה שנתית ממוצעת מסוימת, כמה יהיו לו בגילאי שנתיים עד חמש?" במקום לשקול בקפידה את השאלה ולבצע את החישובים הנדרשים, המודל מייצר טקסט על פי שאלות דומות למילא נתקל בעבר.
על מנת להתגבר על הגבול הזה, סוצ'ר מציע "לכור" את המודל כדי לתרגם את השאלה לקוד מחשב וליצור תשובה על פי הקוד הזה. דבריו מעידים שלדעתו, בפועל המודל יגיש תשובות מדויקות יותר. סוצ'ר ציין כי בכלי חיפוש מונע אינטיליגנציה מלאכותית שלו, You.com, הם הצליחו לתרגם שאלות לקוד Python.
בניגוד לניהול הנפוץ כי בינתיים מבצע סקאל של נתונים ויכולת מחשבת, סוצ'ר מציע שתילה בתחום התכנות תגביר את היכולות של מודלים שפתיים גדולים. באמצעות לימוד התכנות, מודלים אלו ירכיבו הבנה עמוקה ויכולות פתרון גמישות יותר. התכנות יאפשר להם להתמודד עם משימות מורכבות יותר בעתיד.
כשהתחרות במודלים שפתיים גדולים מתאימה, כאשר GPT-4 של OpenAI ו-Gemini של גוגל מתמודדים לכח בשדה התחרות, פרספקטיבתו של סוצ'ר מציעה גישה מרעננת לקידום יכולות האינטיליגנציה המלאכותית. במקום להיסתמך רק על סקאל של נתונים, הדגנת מודלים שפתיים לתכנת יכולה לפתוח את הפוטנציאל המלא שלהם ולהוביל לידע ניכר בתחום.
שאלות נפוצות (FAQ) על שיפור מודלי שפה גדולים דרך התכנות
שאלה: מה האתגר של מודלי שפה גדולים נוכחיים?
תשובה: מודלי שפה גדולים נוכחיים זוהי המתמודדות עם הגבלות בהפקת תשובות מדויקות בעתיד עם שאלות מורכבות, במיוחד אלה שדורשות חישובים מתמטיים. רבות מקורבו להלוזיות שבהן, המודלים מפיקים שגיאות עובדה כאילו הן אמת.
שאלה: מה הפתרון המוצע להתגבר על הגבלות אלה?
תשובה: ריצ'רד סוצ'ר מציע לכור את מודלי השפה הגדולים כדי לתרגם שאלות לקוד מחשב וליצור תשובות על פי הקוד הזה. בעזרת כך, המודלים יסופקו תשובות מדויקות יותר.
שאלה: איך תרגום שאלות לקוד משפיע על המודלים?
תשובה: תרגום שאלות לקוד משפיע על המודלים בתור זה עוזר להם להבין את השאלות בעומק ומאפשר להם לבצע את החישובים הנדרשים. התכנות הזה משפר את יכולות הפתרון ומגביר את הסיכויים לקבל תשובות מדויקות.
שאלה: האם שילוב זה בוצע במנוע חיפוש מונע בינתיים המופעל בעזרת פותחי עוזר AI?
תשובה: כן, ביום עבודה ליישוב שלו You.com, השילוב נעשה בהצלחה כאשר הם תרגמו שאלות לקוד Python כדי לשפר את דיוק התשובות.
שאלה: איך התכנות שונה מהתכנון המקובל של סקאל של נתונים ויכולת מחשבת?
תשובה: סוצ'ר מציע שלימוד מודלי שפה גדולים לתכנת יישמע תפקיד קריטי בהשגת יכולותיהם, במקום להיסתמך רק על סקאל של נתונים. באמצעות התכנות, המודלים יגיעו להבנה עמוקה וליכולות פתרון גמישות יותר להתמודד עם משימות מורכבות בעתיד.
שאלה: איך נקודת מבטו של סוצ'ר מדגימה יתרון על מודלים שפתיים גדולים אחרים שבתחרות?
תשובה: המבט המרענן של סוצ'ר מביא לידי ביטוי זגוגה חדשה ביכולות האינטיליגנציה המלאכותית. במקום להיסתמך רק על סקאל של נתונים, הכור במודלים
The source of the article is from the blog publicsectortravel.org.uk