נווידיה, יצרנית צ'יפים מוכרת ומובילה בתחום יחידות עיבוד גרפיות (GPU), כופפת לתחום הבינה המלאכותית היוצרת. פרויקט החדש ביותר שלהם, "Chat with RTX", מציג גרסה מוקדמת של דמו אפטק חינמי שמאפשר למשתמשים להתאים אישית צ'אטבוט עם תכנים אישיים במחשבי Windows.
הדבר שהופך את "Chat with RTX" לייחודי הוא היכולת שלו להשתמש בקבצים מקומיים כמקורות לידע. תדמית עשירה של מקובץ נמצאת לרשות המשתמשים על מחשבם האישי. על ידי כלול קבצים מקומיים כלוח אישי בתוכן גורם, כגון למה או לאמה 2, משתמשים יכולים ליצור תשובות מדויקות ורלוונטיות לשאלות שלהם. היכולת הזו היא התוצאה מיישום של מערכת גורמת מחדש מורחבת (RAG), תוכנה Nvidia TensorRT-LLM ותאוצת Nvidia RTX, אשר מבצעת את יכולות הבינה המלאכותית היוצרת למחשבי Windows עם מעבדים GeForce מופעלים.
RAG הוא שיטה מתקדמת שמשפרת את הדיוק והאמינות של מודלים של בינה מלאכותית יוצרת על-ידי ניצול מידע שמושג ממקורות חיצוניים. הכלי החדשני הזה תומך במגוון פורמטי קובצים, כולל .txt, .pdf, .doc/.docx ו-.xml. בנוסף, הוא מאפשר למשתמשים לכלול מידע ממקורות מדיה אחרים כמו סרטוני YouTube ורשימות השמעה. על ידי הוספת קישור לסרטון ב־YouTube לכלי, משתמשים יכולים לשאול שאלות ספציפיות הקשורות לתוכן הסרטון והכלי יספק תשובות רלוונטיות בהתאם לסרטון עצמו.
על מנת לנצל את Chat with RTX, משתמשים יכולים להוריד ולהתקין אותו בקלות מהאתר הרשמי של Nvidia. הכלי מחייב מחשב המריץ תוכנת הפעלה Windows 10 או 11 עם מעבד מסדרת GeForce RTX 30 או גבוהה עם לפחות 8GB של זיכרון גרפי ועם מנהלי מסך המחשב מעדכניים.
אחד מהניבים המשמעותיים שמפריד את Chat with RTX מצ'אטבוטים מלאכותיים אחרים, כמו ChatGPT או Gemini, הוא זמן תגובה מהיר בשל תאימותו למחשבים ולתחנות עבודה בגרסת RTX של Windows. כמו כן, Chat with RTX מבטיח פרטיות משתמש על-ידי אפשרות התמודדות עם נתונים רגישים באופן מקומי, ומסירה את הצורך בשיתוף עם צדדים שלישיים או חיבור לאינטרנט.
למידע נוסף על חברת Nvidia ומוצריה, ניתן לבקר באתר הרשמי של Nvidia.
שאלות נפוצות (FAQ) על "Chat with RTX" של Nvidia:
1. מה זה "Chat with RTX"?
"Chat with RTX" הוא דמו אפטק חינמי שפותח על ידי Nvidia ומאפשר למשתמשים להתאים אישית צ'אטבוט עם תכנים אישיים במחשבי Windows. הכלי משתמש בקבצים מקומיים שמאוחסנים במחשב כדי ליצור תשובות מדויקות ורלוונטיות לשאלות המשתמש.
2. איך "Chat with RTX" משתמש בקבצים מקומיים כמקורות מידע?
"Chat with RTX" משתמש בקבצים מקומיים במחשב לריבוי מודל שפה גדול ופתוח, כמו Mistral או Llama 2, על מנת ליצור תשובות. זה מתאפשר באמצעות הישג של מערכת הבחירה המוגברת (RAG) ותוכנת Nvidia TensorRT-LLM, יחד עם תאוצת Nvidia RTX.
3. אילו פורמטים של קבצים "Chat with RTX" תומך?
"Chat with RTX" תומך בפורמטים קבצים שונים, כולל .txt, .pdf, .doc/.docx ו-.xml. כמו כן, הכלי מאפשר למשתמשים לכלול מידע ממקורות מדיה כמו סרטוני YouTube ורשימות השמעה.
4. איך משתמשים יכולים להוריד ולהתקין את "Chat with RTX"?
משתמשים יכולים להוריד ולהתקין את "Chat with RTX" בקלות מהאתר הרשמי של Nvidia. הכלי דורש מחשב המריץ את מערכת ההפעלה Windows 10 או 11, מעבד מסדרת GeForce RTX 30 או גבוהה עם לפחות 8GB של זיכרון גרפי, ומנהלי הכרטיסים הגרפיים העדכניים ביותר של Nvidia.
5. מה מפריד את "Chat with RTX" מצ'אטבוטים עם בינה מלאכותית אחרים?
היבט משמעותי שמפריד את "Chat with RTX" הוא התאמתו למחשבים ולתחנות עבודה בגרסת RTX של Windows, המאפשר תגובות מהירות. כמו כן, זה מבטיח פרטיות משתמש על ידי התמודדות עם נתונים רגישים באופן מקומי, ומסירת הצורך בשיתוף עם צדדים שלישיים או חיבור לאינטרנט.
למידע נוסף על Nvidia והמוצרים שלהם, ניתן לבקר באתר הרשמי של Nvidia.
The source of the article is from the blog macholevante.com