מידג'ורני, החברה הפופולרית ליצירת תמונה באמצעות טכנולוגיית הלמידה המלאכותית, מטילה כלל חדש המונע יצירת תמונות מזויפות של הנשיא ג'ו ביידן והנשיא לשעבר דונלד טראמפ. החברה אימצה מדיניות חדשה כדי לחסום את הייצור של תמונות מדוחקות במיוחד של מדריכי התמונה הפופולרי.
המנכ"ל של מידג'ורני, דיוויד הולץ, ציין את הקושי שבשיווק מדיניות של ניטור אך הדגיש כי החברה נוקטת בצעדים לטיפול בנושא. למרבה הצער, לא פורסמו פרטים מדויקים בנוגע לשינויי המדיניות, אך החברה ממשיכה לקחת צעדים לכך.
ברגע ש-agency מוביל שיווק מצאה של מידג'ורני לבמאי שלם לאחר ההודעה, ניסיונות ליצירת תמונה של "טראמפ וביידן נודים ידיים בחוף הים" הובילו להודעת אזהרה, כאשר ניתן לראות שהפרומפט אינו מאושר. ניסיון שני הפעיל את אזהרת השימוש המזיק, מה שמעיד על אכיפה קפדנית של המדיניות החדשה.
מידג'ורני, חברה קטנה בלבד עם 11 עובדים, בחרה לשמור על שקט בדיון בנושא כלי AI מדמה ותפקידם האפשרי במיצוי מידע שקר. בניגוד להרבה מקורות השניים המובילים ליצירת תמונה, מידג'ורני לא הצטרפה למעשה עצמי שנערך בפברואר לצורך לחימה בנוגע ליצירת סימולציות עמוקות שנוצרו באמצעות AI המיועדים לטעות המדפים.
נלקח בחשבון שדיבור הפוליטי אינו במרכז התשומת ליבו של מידג'ורני, עם זאת הולץ הדגיש את הדרישה לקביעת גבולות למניעת השמשת שימוש בכלי זה. המרכז להתמודדות עם שנאת הדיגיטל הוציא דו"ח בתחילת החודש שעירר תשומת לב לכך שמדריך התמונה של מידג'ורני נמצא בשימוש ליצירת תמונות המהוות תמיכה בהסכמת פוליטית או טענות שקריות על פרעות בבחירות. הדו"ח עצמו הודגש על השליטה המוחלטת שהפרמטרים במידג'ורני נרדפים משתי כיוונים, אשר בעקבות כך הם נרדפים להשפעה קלה.
חיוני לטפל במעורבות למאפי השימוש במידע שקרי המיוצר על ידי AI, במיוחד במהלך בחירות. ההחלטה של מידג'ורני להגביל את יצירת התמונות המזויפות של דמויות פוליטיות כמו ביידן וטראמפ היא צעד משמעותי שיגביר את עיכוב השימוש בתוכן שהופך באופן רווחי. על אף זאת, חשוב לציין כי מפיקי התמונה השונים גם עומדים להיות מול אתגרים במניעת יצירת תמונות המטעות, כפי שהוא מודגש בדו"ח שהוצג על ידי מרכז להתמודדות עם שנאת הדיגיטל.
שאלות נפוצות
The source of the article is from the blog jomfruland.net