חברת ההפעלה בשם ElevenLabs הסירה עשייה נדרשת ואסורה על משתמש שיצר דיפפייק של ג'ו ביידן בניסיון לפרץ לבחירות, כפי שדיווחה Bloomberg. הדיפפייק, שדמה את הנשיא, היה בשימוש ברובוקול שקרא למצביעים בניו המפשייר שלא להשתתף בבחירות המהפכה של המדינה. למרות שלא הייתה בהתחלה ברורה בדיוק איך הטכנולוגיה מדמה את קולו של ביידן, חברת אבטחה בשם Pindrop הרצתה ניתוח מעמיק וזיהתה בהצלחה כי כלי הכלים של ElevenLabs נעשה בהם שימוש.
במקום להשתמש בציטוטים ישירים מהמאמר המקורי, ניתן להסביר ש-Pindrop הסירו רעשי רקע ושיפרו את השמע של הרובוקול לפני שהשוו אותו לדוגמאות ממספר טכנולוגיות סינתזת קול הקשורות לדיפפייק. מנכ"ל החברה, ויג'יי בלאסוברמאניאן, אמר שהניתוח אישר את שימוש כלי הכלים של ElevenLabs בבטחון שעובר את 99 אחוזים. Bloomberg נוספה כי בעוד החברה בודקת כעת את הנושא לאחר שנחשפה לממצאי Pindrop, היא זיהתה כבר את החשבון האחראי והקפיאה אותו.
האירוע הקשור לרובוקול הדומה לביידן מבטא את ההשפעה הפוטנציאלית של טכנולוגיות המסוגלות להעמיד מימיהן דמויות וקולות, במיוחד בנוגע לניצול של הקולות בתהליך הבחירות הנעים לקראת הבחירות הנשיאות של ארצות הברית. קתרין קארלי, פרופסורית באוניברסיטת קרנגי מלון, הביעה את דאגתה בנושא זה ל-The Hill וטענה שזה משמש כרמז על מה שיש לצפות בחודשים הקרובים בנושא הפרעת המצביעים והתקווה של התוקף על עובדי הבחירות.
מעניין לציין שרק נדרשו כמה ימים לאחר שElevenLabs הפיצה את הגרסה בטא של פלטפורמתה, עד שאנשים ניצלו את הטכנולוגיה לעשות קליפים של אודיו דומים לקליפים שמפרסמים דברים שניתן להעליב בהם ובהם מוצלצים פוליטיים. בזמן שהסטארט-אפ מעודד את השימוש בטכנולוגיה שלו לצורך דיבור אמנותי ופוליטי התורם לדיונים ציבוריים, היא מזהירה את המשתמשים מלעסוק במטרות הורסות שפועלות בניגוד לחוק, כמו הונאה, אפליה או תקשורת שנאה. מכאן, אירוע זה מבליט את הצורך ליישם כלי הגנה נוספים על מנת למנוע מפעילים זדוניים לנצל בחירות לרחבי העולם.
שים לב כי מאמר זה עשוי להכיל קישורים לשותפים. אם תלחץ על קישור כזה ותבצע רכישה, ייתכן ונרוויח עמלה.
שאלות נפוצות:
- מהי חברת אילבן לאבס?
אילבן עוסקת בהקמת גרסאות מתקדמות וחדישות בתחום טכנולוגיית החיים המלאים בהפעלה. - למה אילבן חסמה משתמש אחד?
אילבן חסמה משתמש שביצע דיפפייק של ג'ו ביידן במטרה לפגע בבחירות. - למה הוזכרת השימוש בדיפפייק של ג'ו ביידן?
הדיפפייק של ביידן נעשה שימוש ברובוקול שקרא למצביעים בניו-המפשייר שלא להשתתף במבחנים הראשונים של מדינה. - איך הוחלט כי נעשה שימוש בכלי הכלים של אילבן?
חברת האבטחה Pindrop סיפקה ניתוח סופר מעמיק ואישרה כי נעשה שימוש בכלי הכלים של אילבן בבטחון הכולל 99 אחוזים. - מה בעדר לדאוג בנוגע לטכנולוגיה של דיפפייק והבחירות?
האירוע המשויך לדיזיפייק השימוש ברוב ביידן מדגיש את ההשפעה הפוטנציאלית של טכנולוגיות שמסוגלות להעמיד מימיהן דמויות וקולות, במיוחד בנוגע לשביתת המצביעים והתקיפה על עובדי הבחירות. - כמה היו זקוקים אנשים לניצול הטכנולוגיה של אילבן לאחר השקה?
לקחו רק כמה ימים לאחר שהושקה גרסת הבטא של פלטפורמת אילבן, עד שנפרצה הטכנולוגיה ליצירת קליפים של אודיו המדמים דברים שאנשים אמרו שהם עשויים להעליב. - אילו סוגי השימוש עידכן אילבן?
אילבן מעודדת את השימוש בטכנולוגית שלה לשם דיבור אמנותי ופוליטי, המוסכם לדיונים ציבוריים. - מהם סוגי השימוש אילבן מזהירה מפניהם?
אילבן מזהירה משימושים המפרים את החוק, כמו הונאה, אפליה או תקשורת שנאה.
הגדרות:
– דיפפייק: שימוש בבינה מלאכותית ליצירה או התערבות באודיו, וידאו או תוכן מדיה אחר באופן אשר מטעה או מטעינה את הצופה או השומע ומגרים בו אמון כי התוכן המזויף הוא אמיתי.
– רובוקול: הודעת טלפון אוטומטית המעבירה הודעה מוקל
The source of the article is from the blog maestropasta.cz