בשנות ה-1960, הציבה האקדמיה הטכנולוגית של מסצ'וסטס (MIT) את תוכנית ה- NLP, ELIZA, ששידרגה את הדרך עבור צ'טבוטים מודרניים בתחום המבואה. ה- 'חורף של המוחות המלאכותיים' דומם את עניין התחום בשנות ה-70 עד ה-80, אך השיקום של תחום ה-NLP הגיע בשנות ה-80 עם התקדמויות כגון Tagging של חלקי דיבור ותרגום מכונה. החוקרים הקימו את היסוד למודלים שפתיים קטנים, ולאחר מכן התפתחו בזכות כרטיסי ה- GPU וטכנולוגיית AI.
שנות ה-2010 הביאו עוד פיתוחים בתחום הAI, עם דגמים כמו GAN ו-Transformer השומכים בטכנולוגיות מתקדמות כמו GPT-3.5 ו-GPT-4 של היום. לא ניתן להתעלם מהשקתו של ChatGPT בשנת 2022 שנציבה מחדש של עדכוני LLM ושירותים חדשים. ההכנסה האחרונה של GPT-4 במאי 2024 הביאה איתה את עידן מודלים LLM מרובי-מצבים הסופקים לטיפול בפורמטי נתונים שונים.
דוגמאות נפוצות ל-LLM המודרניים כוללות את GPT-3.5 ו-GPT-4 של OpenAI, יחד עם PaLM ו-Gemini של Google, וסדרת Llama המבית Meta Platforms. LLM מובילים ביישומים בתחומים כמו יצירת טקסט, תרגום, סיכום, סיווג, ניתוח רגשות, צ'אטבוטים, ועתה גם יצירת תמונות עם עליית LLM מרובי-מצבים.
נשארו מחכים לעמוק לתוך ההבדלים בין AI שנבנה כוללAI למה בשלושה גישות שונות במאמר הבא שלנו.