הפלאי טכנולוגיה של המובנעת עלולים להיראות כמעט קסום, אך עלינו לזכור כי מערכות כמו ChatGPT בעצם מכונות מתמטיות המנבאות רצפי מילים או פיקסלים. ג'יידן זיגלר, מנהל מוצר ב- Alembic, הבהיר כי מודלי שפה אלה חסרים בהבנת הידע האישי או הדעות המהפכניות שיכולים להמשיך בהם, מראה על אין להבחין בין תכנים מקוריים ומבוססי דעה.
שיקול דעת לפרעות מחברתית
במצב ברירת המחדל שלהם, אם מישהו היה מביא את המובנעת לידי פעולה ומבקש תמונה של קצין חברתי, ניתן לשים לב שהתוצאה תטה לצד תמונות של גברים לבנים בסוגי שמלות עסקי. לפי ג'ושוע וויבר, מנהל NGO לזכויות אדם טקססי, מודלים אלו פשוט משקפים את ההיסטוריה והתרבות שלנו.
האתגר של גישה הדעה
הסיכון, כפי שהדגיש עורך דין, הוא לסיים במעגל אלים בו הדעות הוטמעו במובנעת המחזקות את המושגים הקיימים מראש שלנו. לאפשר למודלים בסיסיים לעשות אימונים מחודשים על ידי נתונים נוטריליים הוא משימה מרתקת, כמאוד יקרה ומאוד זמן משקל, במיוחד אם נשק ללא חץ תוחמא אינפורמציה בגדול.
כדי להפיג זאת, חברות מנסות ל"פגוע" במודלים עם ערכים מסוימים על ידי קביעת כללים. רבים chatbots הוגדרו כך שימנעו מביטוי רגשות שאינם יכולים לחוות וליצור תוצאות יותר מגוונות. תומאס פוויג, המייסד שותף של Alembic, משווה את זה לשים מסננים חברתיים על המובנעת.
חדשנות טכנולוגית וחינוך
המגבלות של שיטה זו הן ברורות כאשר שירות Gemini של Google המיצית תוצאות היסטוריות לא נכונות בתגובה לבקשות תמונה ספציפיות. עם ענקי הטכנולוגיה מחטיאים תדריך את גבולות המובנעת, סשה לוקיוני של AI פלטפורמה Hugging Face מציע שהעדיפות לפתרונות טכנולוגיים ייתכנה להיות מתיהוית.
החובה בימינו היא לחנן את האדם על הכלים אלו, אשר יכולים להיתפוס כי יש להם הכרה. ג'ושוע וויבר תומך בהפסקת כדורגל וקורא לצוותים הנדסיים נוספים ויותר מגויסים.
התקדמויות וכיבושים
עם פרוצות כאלו כמו ChatGPT של OpenAI אשר יכול "לקרוא" רגשות, עולה שאלה על יכולותיו לפרש בדיוק בעיקר פנים של ביטוי על פני תרבויות. בנפיא AI גנרטיבית עדיין בתינוקות שלה, בתחום ה- Pinecone פיונירים "RAG" (ייצור מוגבר באמצעות חיפוש) כדי לשפר בסיסי נתונים לסיוע ב- AI.
רם שריהרשא, CTO של החברה שצויינה, מתאר את הפוטנציאל בהעמה בעוזר המשפטי של AI לעורך דין אנציקופדי שיכול לגשת ולכפות כמויות מרשימות של מידע בנושא חוקים משפטיים.
הבנה של המודלים שפה של AI בגבולותם
מודלי שפה AI פועלים על סמך נתונים אימון נרחבים, אך הם אינם מחזיקים הכרה, תודעה עצמית או יכולת אמיתית להבין משמעות. המגבלה המשמעותית היא כי מודלים אלו אינם מפרקים או מחשבים כמו האנשים. הם מבצעים ניבויים על ידי זיהוי תבניות בנתונים, שלעתים ניתן להוביל לפליאתי או לפלאי ייצוא אם התבניות לא מותאמות למציאות.
אתגר מרכזי: דעות וייצוג
אתגר עיקרי הוא לוודא כי מודלי שפה AI אינם ממקימים או מחליקים את הדעות החברתיות. מאחר שנתוני האימון למודלים אלו בדרך כלל מגיעים מהאינטרנט, אשר משקפת מגבלות תרבותיות והיסטוריות, המובנעת לומד לשכפל את התבניות הללו. פעילויות ליצירת מובנעת פחות מכוונות נכללות את גידור נתוני האימון או החלת שכבות נוספות של כללים להדריך את התגובות של המובנעת.
פולמוס: השימוש האתי והסידוריות
קיימת פולמוס שקיימת סביבת השימוש האתי של מודלי שפה AI ותפקידם בהפצת מידע שקר. מאחר שמודלים אלה יכולים ליצור נרטיבים משכנים, קיים סיכוי שישתמשו בהם ליצירת ולהפצת חדשות מזויפות או לשקול.
יתרונות של מודלי שפה AI:
- אפקטיביות: AI יכולה לעבד ולייצר טקסט במהירות שאי אפשר להשוות לאנשים.
- קידומות במדי: שיפורי טכנולוגיה מאפשרים ל- AI לסייע במגוון רחב של משימות, משירות ללקוחות ועד יצירת תוכן.
- יעילות מחירים: עסקים יכולים להשתמש ב- AI לאוטומציה של משימות חוזרות, ובכך לחסוך בעלויות עבודה לאורך הזמן.
חסרונות של מודלי שפה AI:
- חוסר שקילות: AI יכולה שלא להבחין בין תוכן הולם לבין תוכן לא הולם ללא אילוצים נוספים.
- הפיכת עבודה: תלות יתר על המיד באוטומציה יכולה להוביל להפחתת הזדמנויות עבודה עבור עובדי אדם.
- פוטנציאל שגיאות: טעויות של AI יכולות לגרום לתוצאות חמורות, בהתאם ליישום.
כדי לטפל באתגרים אלו ולהנות מהיתרונות של AI בעוד נטרל את החסרונות שלה, חיוני לנסח שיח תמידי בין טכנולוגים, אתיקאית, מתוכנני מדיניות והציבור הרחב.
בנושא מידע נוסף, ניתן לבקר בתחומי הראשיים של ארגוני מחקר וחברות בטכנולוגיית המובנות המובהקים כדי ללמוד עוד על מודלי שפת AI:
– OpenAI
– Hugging Face
– Alembic
– Pinecone
– Google
חשוב להבטיח כי הכתובות ה-URL שסופקו לעיל תקפות ומובילות אל עמודי הבית הראשיים של הארגונים הרלוונטיים לפני השימוש בהם.
The source of the article is from the blog japan-pc.jp