שוחר החברה של גוגל, סרגיי ברין, דיבר לאחרונה על השקה זקופה של Gemini, מודל המודל המלאכותי של גוגל, והודה בטעות החברה. האירוע כלל כלי ליצירת תמונות של Gemini שהציג דמויות היסטוריות, כולל פאלאדים וחיילים גרמניים, כאנשים בעלי צבע עור. הפולמוס זה גירש תגובות שליליות וביקורת מאישים כמו אילון מאסק ואף מהמנכ"ל של גוגל, סונדר פיצ'אי.
שורש הבעיה נמצא בכוונת של גוגל לייצר מודל מלאכותי חופשי מגזע, המתמודד עם בעיות הגזע שקיימות במערכות AI אחרות. אולם, ההתאמה טופלה באופן שגוי, ותוצרתה כללה תמונות בלתי הולמות ולא נכונות. Gemini, כמו מערכות דומות מהמתחרים כולל OpenAI, משלבת "מודל שפה גדול" המייצר טקסט (LLM) עם מערכת ליצירת תמונות. הLLM מקבל הוראות מדוקדקות לכתיבת בקשות המשתמש כדי להפעיל את מחולל התמונות. לצערנו, גלישת ההוראות האלה למשתמש יכולה לקרות לפעמים, מוכרת כ"כניע לבקשה."
החשיפה לכיווני העדפים מאפשרת שינויים בדגם המודל המלאכותי של Gemini שכללו דרישה לייצג מגדרים ואתיות שונים באופן שווה. אולם, זה לבדו לא מסביר למה המערכת יצרה תוצאות כל-כך קיצוניות ושגויות. סרגיי ברין הביע חרדה משלו על כך למה המודל נטה לכיווני גזע מסוימים, והודה כי בדיקה יסודית חסרה.
מומחים במוח כמו דיים ונדי הול מאוניברסיטת סאות'המפטון, טוענים כי גוגל ממהרת בשיחרור המודל של Gemini בתגובה להצלחות OpenAI עם מודלי המלאכות שלהם. המהירות הזו להתחרות פגעה באופן הערכתי והבדיקה על הטכנולוגיה. הול מדגישה את חשיבות האימון של מודלים בצורה ערכית, כדי לא לייצר תמונות בלתי הגיוניות כמו התיאור של Gemini של חיילים גרמניים במלחמת העילוי השנייה.
למרות הפולמוס שסובב את Gemini, האירוע עשוי לעזור להמקד את הווכוח על בטיחות המדלי המלאכותיים על דאגות יותר כרוכות, כמו להילחם ב deepfakes. זה מדגיש את הצורך בבדיקה והערכה מקיפה של מודלים AI לפני השחרור שלהם במידה רחבה. הציפיות המונחות על מודלי AI יוצרי, בינה, ומשקפים של החברה הגולמית גבוהים. אולם, כמו שאנדרו רוגוויסקי מאוניברסיטת סארי מעיר, אנו חייבים לזכור שהטכנולוגיה הזו יחסית חדשה ועדיין מתפתחת.
למרות השמועות שמסתבכות סביב עמדתו של סונדר פיצ'אי בגוגל, לשקול אשמה בלעדית לו יתעלם מהנושא הרחב יותר של תרבות עבודה והצורך באיפוס ברמה מערכתית. בעקבות האירוע של Gemini, חשוב שגוגל וחברות טכנולוגיה אחרות יעדיפו בטחון מודלי AI, לא רק לדורות העתיד של הטכנולוגיה, ולכתובות סיכונים ואתגרים חברתיים, כמו עליית ה- deepfakes.
The source of the article is from the blog elblog.pl