מפתח התוכנה אישאן אננד הגביר את התמכרותו לגליונות אלקטרוניים לרמה חדשה לחלוטין על ידי שילוב של GPT-2, מודל שפה גדול, ב- Microsoft Excel. מרשימות מאוד הן העבודה שלו, מעניקה למערכות מידע יקרים על פעילותם הפנימית של מודלי שפה וכשרונות הניבוי של התשומת הלב Transformer המתחתי. אננד טוען באופן גועלי כי הבנת הלמידת מכונה היא כל כך פשוטה כמו הבנת גליון אלקטרוני, מציג את הפוטנציאל הגדול של הסוגה הזו של שילוב.
הגליון האלקטרוני שמכיל GPT-2 בנפח של 1.25GB זמין להורדה ב- GitHub, מאפשר לכל אחד לנסות ולחקור את הפונקציות שלו. למרות ש-GPT-2 אינו הדור האחרון של מודלי שפה, שהתקבל ביישומים ב-2019, הוא עדיין מהווה צעד חשוב להבנת יכולותם של מודלים אלו.
נקודה חשובה לזכור היא שמטרתו של GPT-2 אינה מותאמת לאינטראקציות שיחה והיא קודמת לעידן המודלים הבנויים לשיחה כמו ChatGPT. חשוב להדגיש כי היישום בפרויקט זה משתמש בתום של GPT-2, אשר מורכב מ-124 מיליון פרמטרים. להשוואה, גרסתו המלאה של GPT-2 כללה 1.5 מיליארד פרמטרים, גרסה עדכנית יותר כמו GPT-3 עברה את הציפיות בפרמטרים של 175 מיליארד.
הפעולה העיקרית של GPT-2 נוגעת לתחזית חכמה לפקטור הבא. תהליך זה מתבצע דרך הרכבת המודל שפתבת ההמרה שלו, שיכול לתרגם בהצלחה את השלימות הכי סבירה לסקירה שנתונה בסדר הקלט. היישום של GPT-2 בגליון האלקטרוני הזה פועל עם החלקת קלט מוגבלת ב-10 רמות בלבד, הרבה פחות מה-128,000 רמות מרטיפועות ע"י GPT-4 Turbo. עם זאת, ההגבלה הזו אינה צריכה להורות על הערכה של הפרויקט של אננד, שהוא שירותי יצירת קשר ומבוא מעשי למודלים שפה למקצוענים שונים, כולל מנהלי טכנולוגיה, שיווקנים, מנהלי מוצרים, עוסקי מדיניות בתחום המודעות, מפתחים ומדענים הרוחשים לעבור אל תחום הלמידה המלומד.
אננד מזהיר כי אותה הרכבת המשתמשת בפרויקט זה משמשת כבסיס למודלים שפה אחרים שנוצרו, כגון ChatGPT של OpenAI, קלוד של Anthropic, Bard/Gemini של Google, למה של Meta ועוד.
בתיאור מפורט, אננד מסביר איך ההמרת GPT-2 לתוך גליון האלקטרוני פועלת בכמה גליונות. הגליון הראשון מוקדש להכנסת המשפטים, עם הגבלה קלה של עשרה משפטים. הוא ממשיך להסביר מונחים חיוניים כמו טוקניזצית מילים, מעמדי טקסט ומשקלים, שיפור איטרטיבי של הניבוי של המילה הבאה, ובחירת הטוקן היציאה, המייצג את המילה האחרונה הניבית של הסדרה.
למרות גרסה נרחבת של GPT-2, חשוב לציין כי ביצוע הממשק שלו מועדף והוא ימריץ את גבולות אפשרויות ה-Excel. בכל זאת, על המשתמשים להימנע מניסיון להשתמש בקובץ Excel זה על Mac, שכן זה עשוי להביא לקריסות והקפצות. בנוסף, הגליון האלקטרוני אינו תואם בזמן הזה עם אפליקציות גליון אלקטרוני בענן. ממלאיו ביילצו מאוד עם משתמשים להשתמש בגרסה האחרונה של Excel על מנת להבטיח ביצועים אופטימליים. חיוני להדגיש כי הגליון האלקטרוני הזה משרת בעיקר כפעילות השקעתית וכמקור הנאה עבור אננד.
אחד מהיתרונות היחודיים ביישום מודל שפה זה בתוך Excel על המחשב האישי הוא שהוא פועל לחלוטין במצב לא מקוון ללא צורך בקריאות API לענן. זה מבטיח פעולה מקומית מלאה ופרטיות נתונים.
שאלות נפוצות (FAQ):
מהו GPT-2?
GPT -2 מתאריך עבור "Generative Pretrained Transformer 2" והוא מודל שפה גדול שפותח על ידי OpenAI. הוא משתמש בארכיטקטורות של למידת המניע ליצר טקסט דומה לאנושי על פי פרומפטי קלט.
מהו Transformer תחום?
ארכיטקטורת ה- Transformerהיא סוג של מודל למידה עמוקה המצטיינת במשימות הכוללות נתונים רציפים, כמו תרגום שפה או הפקת טקסט. זה תומך במנגנוני עצמי-תמיכה מראשתיים של מראי נוף שקטין לידועויות ההקשריות.
מהו החשיבות של המימוש של GPT-2 של אננד ב-Excel?
השילוב של אננד של GPT-2 בבית הרפואה של מיקרוסופט מספק תרגום ייחודי על הפוטנציאל לשילוב טכנולוגיית גיליון עם יישות מלאכותית. זה מציע הזדמנות למידה מרתקת עבור מקצוענים בתחומים שונים להבין את המערכות של מודלי שפה בצורה ידייתית.
האם המימוש של GPT-2 של אננד תואם לכל הגרסאות של Excel?
לא, מומלץ להשתמש בגרסת ה-Excel האחרונה להבטיח ביצועים אופטימליים עם מימוש הגליונות של אננד.
The source of the article is from the blog shakirabrasil.info