ב- החברה המובילה בתחום יצירת תמונות באמצעות דמויות מלאכותיות, Midjourney, מימשה מדיניות חדשה לחסימת משתמשים מיצירת תמונות מזוייפות של הנשיא ג'ו ביידן והנשיא הקודם דונלד טראמפ לפני הבחירות הנפתחות לנשיאות ארה"ב. המעצר הזה הגיע בעקבות הדאגות על פרסומי ביקורת בניאות ועל דיפייקס.
ל- CEO של Midjourney, דייוויד הולץ, הודיע על הפעולות המודרציה באירוע שעת עבודה דיגיטלי, טוען כי החברה צריכה "לשים רגליים על נושאים הקשורים לבחירות לזמן קצר." בעוד שפרטי המדיניות לא חושפו, הולץ תיאר אותן ככלל מותק להקשות על אנשים להימלט מהשימוש הרע בכלי היצירה.
ההחלטה של Midjourney לגבור על יצירת דמיונות פוליטיות חשובה, מאחר והחברה קודם נמנעה מהצטרפות לשותפות טכנולוגית מתנדבת להילחם בדיפייקים שנוצרים על ידי AI. עם זאת, הולץ דגיש כי דיבור פוליטי אינו המטרה של Midjourney ואינו רוצה להוציא את כל זמנו במעקב אחריו.
מרכז להילחם בשנאה דיגיטלית הוציא לאחרונה דוח המדגים דאגות לגבי יכולות יצירת התמונות של Midjourney. הדו"ח גילה כי Midjourney סיימה רצף בקרה אחריות בין כלי היצירה של תמונות AI כאשר הגיע לייצור תמונות של מועמדים פוליטיים דומות לביידן וטראמפ. קבוצת התגלילים בדקה מספר כלי מבצעים ליצירת תמונות ומצאה כי Midjourney מבצעת ביקורות על בחירות ב66% מהניסויים.
המדיניות החדשה של Midjourney לחסום תמונות של דמויות פוליטיות אמורה לטפל בשורשי הבעיה הללו ולהביא את החברה להתאמת תמונות עם כלי יצירת תוכן מוסרי. בכל זאת, התקבלו תלונות מצד משתמשים כי החברה לא תקשים לתקש תקני על המדיניות ששונתה.
ההטמעה של מדיניות קשוחה על ידי Midjourney משקפת את הדאגה הגוברת על התפשטות שקרים ודיפייקס במהלך הבחירות. ברקע ההתקדמות של טכנולוגיית AI, חיוני להקים מניעים לשמירה על השימוש הרע של כלים כאלה. בזמן שצעדי Midjourney מקימים, חשוב להישאר קריטיים ולהמשיך לפתח אמצעים המאפשרים ביניים היעילה של בניית תמונות בעיות הקשורות לבחירות.
The source of the article is from the blog maestropasta.cz