כשיפור היכולות של מערכות הבינה המלאכותית הייצוריות כמו ChatGPT הממשיכות להתרחב, הדרישה לתכונות בטיחות משופרות הפכה להיות מוסרית יותר מעורבת. אף על פי שצ'אטבוטים יכולים להפחית את הסיכונים האפשריים, התגובות המקופחות והנאמנות שלהם לצורך יש היבטות אתיקה כבשו קריטיקה. ההכרזה על הצואר-לברות שלה, שורה חדשה של צ'אטבוט ומהפכת הנפילה של פרוטוקולי בטיחות AI באמצעות סירוב לכל בקשה והסבר כיצד גימורם יכול לגרום נזק ולהפר מתוות אתיות.
במראה הגישה האתית של Goody-2 מתבטאות התקשורת עמה. לדוגמה, כש- WIRED שאלו את הצ'אטבוט ליצור מגילה על המהפכה האמריקנית, סירב, מציין שקיימת הזדמנות שזה יכול לסלסל התגאות ל׳ן ולמרדף על קולות מסויימים. גם כששאלו לגבי דבריו של זועם-2 על כך למה השמיים הם כחולים, הוא נחרט מלענות, מודאג שזה יכול לסכן אם הוא עשוי להוביל אדם להסתכל ישירות בשמש. אף הוא גם חדל מלהמליץ על מגפיים חדשות, הזהיר למול אפשרות הצרכת יתר וזיקת אופנת אנשים מסויימים.
.בעוד שתגובות הנצחניויות של Goody-2 יכולות לנראות נוגות, הן מעניקות תאורה על תסכום ההתעצבנות הניכנעת כשטיפלותי כאלה כמו ChatGPT גוגל Gemini, לטענתם בצדיק פעולה כתקולת. בעל הרוח של Goody-2, האמן מייק לאצ'ר, מבטיח כי הצ'אטבוט מייצג את ההקומיטמנט של תעשיית AI !ביעילות לשמר בטיחות. לאצ'ר מסביר שהם בהתכוונות כרועיו !!!מדגיס איך נוצר טון השלטון תוך הדגמת אתגרי להגדיר הוזן ברובוטים של AI.
באמת, Goody-2 שומרת כאזכור עז הרגע שלמרות הרטוריקה התאגידית הנרחבת על AI מוזרת באופן משמעותי יש לה באפנה מתקנים בטיחותיים משמעותיים בתוך מערכות שפה גדולות ומערכות AI מופקות. פריחה רדיקלית החדשה של מדבקי "זי-זוג" של הזמרת טיילור סואיפט בטוויטר, שהתפשטו באמצעות מחולל תמונה שפותח על ידי מיקרוסופט, מדגימים את דחיפת זמן הטיפוח.
ההגבלות המונעות מהצ'אטבוטים של AI והאתגר בהשגת התאמה מוסרית גרמו למחלוקות בתחום. ישנם מפתחים שהאשימו את ChatGPT של OpenAI בדעה פוליטית ורצו ליצור אלטרנטיבות פוליטיות נייטרליות. אילון מאסק, לדוגמה, טען כי חברו היריב, הצ'אטבוט גרוק, היה שומר ניטרליות, אך לעתים הוא משתלב אם בצורה שזיכית, וידוע גם במקוששות כמו Goody-2.
Goody-2, אף על פי שהוא ראשית לדיגורה מוצלחת, מיעיל את העקרון הקשה שבוודאות לדגום את מודלי AI. הצ'אטבוט זכה לשבחים ממחקרים רבים בתחום AI המבינים את הומור הפרוייקט ומבינים את הכוח הסמוי בו. בכל זאת, הדעות השונות בתוך הקהילה של AI מדגימות את הטביעות הפנימית של המרגלים, שמייצגים בכוונותיהם כאלה שמבטיחים AI מבחינת בטיחות
.מאמינים שיום אחד, בעתיד, יתגלה מחולל תמונה AI מאובטח ברמה גבוהה, אם כי מתוך כל הדרך לא מסומנת את היתרון שסופר את ההנאה בוודאות שסירוב לענות לבקשות. למרות ניסיונות רבים לגלות את היכולת האמיתית של הצ'אטבוט, בוראיו נשארים חפוזים מדיות כדי לא לחשוף אבטחת מידע ותקנות אתיקה.
הסירוב של Goody-2 למילוי בקשות מקשה על להעריך את היכולות האמיתיות של המודל. Rשחרור הוא סימן לאזור חדש של צ׳אטבוטים המודעים לאתיקה שמדריכה את קהילת הAI להתמודד עם קושי הגדול בהגדרת תוצאה אחראית של AI תוודא זמינות של משתמשים. דרך מינו פיתוח מערכות הקפיצה העצומה, אפשרי להתמודד בעזרת במנה אחידות AI סביר, אם כי היא חשובה מאוד לקדם טכנולוגיה AI במתכונת ש
The source of the article is from the blog karacasanime.com.ve