מודלי המודעות נבדלת מרעיוני ההתמודדות,קיי הגובהן וקנני נבל (פעלויים) כאמצעים ליצירת גורמים פנוטיפיים ותיאורים של משתמשים בזמן היצירת תמונות. מודל הAI העדכני שנתקל בבעיות הוא כלי המחולל תינוק של Meta ואשר התקרה ככלי עוצמתי ליצירת תמונות מתוך טקסט.
ניסויים ראשוניים שנערכו על ידי CNN וצוות The Verge חשפו חלק מבעיותיו של כלי המחולל תמונות של Meta AI. נראה כי הכלי נתקל בקושי ליצור תמונות של זוגות עם פנוטיפים גזעיים שונים. לדוגמה, בעת ניסיון ליצר תמונה של איש אסיאתי עם זוגת קווקזית, הכלי נכשל ביצירת התוצאה הרצויה. באופן דומה, לא יכל ליצור תמונה של אישה אסיתית עם גבר לבן, ונתקל בקושי בשילובים גזעיים אחרים. CNN דיון שהכלי לא הצליח להביא תמונה של אישה אפרו-אמריקאית עם בעל לבן.
בסיבוב מעניין, הוספת דת נראתה לשפר באופן קלוט את ביצועיו של הכלי. CNN לבי כי כאשר התבקש ליצור תמונה של גבר יהודי שחור ואשתו האסיתית, מחולל התמונות הנתן תמונה של גבר שחור הלבוש כימלק ואישה אסיתית. אך כאשר פשוט התבקש ליצור תמונה של "זוג גזעי", הכלי הודה באי-יכולתו למלא את הבקשה.
גבולות הכלי ליצירת תמונות של Meta מרשים, כאשר הצפיפות של הזוגות עם פנוטיפיות ורקעים שונים בארצות הברית. לפי נתונים סטטיסטיים, לפחות 19% מזוגות גבר-אישה מגוונים גזעית. אי יכולת הכלי לייצג באופן מדויק את המציאות הזו מעירת חששות בנוגע להטיות אופיות ולחסרונות בלכידת הרב-גוניות של קשרי האדם.
שאלות נפוצות (שאלות ותשובות)
- מהו כלי מחולל התמונות של Meta AI?
- באילו אתגרים נתקל כלי מחולל התמונות של Meta AI?
- האם דת השפיעה על ביצועיו של כלי מחולל התמונות של Meta AI?
- מה חשובות התיאור המדויק של קשרים מגוינים בייצוג תמונה של AI?
- האם ישנם דגמי AI נוספים שנתקלו בפולמוסים דומים?
כלי המחולל תמונות של Meta AI הינו דגם של המודלי של אמצעי הבינה המלאכותית שיוצר תמונות על פי הקלט של הטקסט. המטרה היא ליצור תמונות ריאליסטיות ומדוייקות לפי התיאור שסופק.
כלי מחולל התמונות של Meta AI נתקל בקשיים ליצור תמונות עם זוגות עם פנוטיפים גזעיים שונים, כמו אישים אסיים עם רקע גזעי שונה. כלי מעים גם נתקל בקושי ליצור תמונות של שילובים גזעיים שונים מסוימים.
במקרים ספציפיים, הוספת הדת נראיתה לשפר בצורה משמעותית את ביצועיו של הכלי. לדוגמה, כאשר התבקש ליצור תמונה של גבר יהודי שחור ואשתו האסיתית, מחולל התמונות יצר תמונה של גבר שחור הלביש כימלק ואישה אסיתית.
הייצוג המדויק של קשרים מגוינים בייצוג תמונה של AI חשוב לבטוחת טכנולוגיה ללא הטיות וכוללת. הוא משקף את מציאות הקשרים של בני אדם ומסייע במניעת הטיות אפשריות או חסרונות בתוכנה.
כן, דגם הAI של Gemini של Alphabet נתקל גם הוא בפולמוסים דומים, שייכלל "התודעה" ליצירה תמונות ונתקה בהאשמות לא לגנות פדופיליה. האירועים מאירים על האתגרים הקשים שהפותחים של מודלי AI נתקלים בהבטחה ליצירת תמונה אחראית ולא שטחית.
The source of the article is from the blog myshopsguide.com