השילוב המוגבל של הלמידת מכונה למדפוסים עמוקים האפשר לפושעים גישה לכלים מתקדמים לביצוע פשיטות הקיבר. כפי שהתארה מנהיג הסייבר במחקר של Kaspersky. פיתוח מדאיך במאבק האמוציות הדיגיטלי הוא המקרה של ההתמודדות האדיר של 'דייפייקס', תמונות בנויות באמצעות למידת מכונה, קולות וסרטונים שאי אפשר לשבור אותם מתוך תוכן מקורי. Kaspersky הדגיש את הצורך הדחוף בידידות ציבורית לעניין הדייפייקס, בעיקר כאשר הפוטנציאל שלהם לטעות גדול יותר.
טכנולוגיית הדייפייק מניפול את הלמידת מכונה כדי ליצור התחזות דיגיטלית שובה-לב, שמאפשרת לאנשים להופיע כאילו הם אמרו או עשו דברים שהם לעולם לא עשו. עם התפתחות הטכנולוגיה זו, הממצאים של Kaspersky מראים שיצירת דייפייק הכנסה אפילו חרדות לפאי הרחובות האפלים של הרשת, שם הם נמכרים ומשמשים לפעילויות אזרחיות כגון הונאה וגניבת מידע.
בנושא העלות, קטעי וידאו מלאכותיים עשויים להיות בקלות כלכליים, בעלות של כ-300 דולר לדקה, מה שהופך אותם לנשק זול עם כוח פועל משמעותי בפעילויות פליליות. עוד כך, למרות המודעות הגוברת, רבים מוצאים קשה להבחין בין תמונות אמיתיות לגרסאות מופשטות מלמידת מכונה. סקר של Kaspersky משקף על הפער בהבנה זו, עם הבדל משמעותי בין אלה שמאמינים שיכולים לזהות דייפייקים לאלה שפועלים באותו שדה, פער המחשיף ארגונים לסיכוני אבטחה מוגברים.
טכנולוגיית דייפייק לא רק דאגה של חברות; אנשים שווים בסיכון. עם כלים בעלי יכולת להנחות קולות בזמן אמת נקרבים למציאות, הסיכונים הקשורים למידע שקר והונאה מתרסקים. האיום הזה הגובר אינו מוגבל על ידי גאוגרפיות, עם הדו"ח העולמי על סיכונים לשנת 2024 שמכריז על מידע שקר מונע ממנועים הנלחמים בו, כמה קשה בכמו אינדיה ופקיסטן.
הנוף הפוליטי אינו חסין, עם מקרים בעבר בפקיסטן שבהם אנשי פוליטיקה, כולל ראש ממשלה לשעבר עמראן חאן, שימשו טכנולוגיות כאלה למעמד והשפעה על דעת הקהל. עם מסגרות רגולטיביות בלתי מספיקות כדי לצמוד רעת השלמויות מערכת AWS, המאבק בזיוף מידע יושג על ידי שני הכתפיים של החוק ושל הזירה הדיגיטלית.
טרנדים נוכחיים בשוק:
שימוש בטכנולוגיית דייפייק מתרחש במהירות ברוחב, מוביל על ידי מתקדמות בלמידה עמוקה ולמידת מכונה. ככל שהכוח המעובר מתקבל עבור עיבוד, היכולת ליצור דייפייקים לא תלויה רק במומחים, לפתיחת הפוטנציאל לשימוש לרעה. פלטפורמות תקשורת, רשתות חברתיות ובידור הם רק כמה מהתחומים שלשם נעשה שימוש מוביל בטכנולוגיית דייפייק. יישומים חוקיים אפשריים כוללים כישור בתזמון מאתגר, אווויר דיגיטלי עבור כנסת ותוכן אישי במשחקים ובסקטור השיווק.
חזויות:
מחקר מעיד ששוק תוכנת הדייפייקים מוכן לצמיחה ניכרת. מומחים חוזים שעד 2030, טכנולוגיית הדייפייק תהיה נפוצה ביותר ביצירת מדיה סינתטית זרה ובתקיפות סייבר. עם שיפור בשיטות גילוי, סביר שיתמודד מלחמת כלים בין יוצרי דייפייק למזהירים, מרכז יותר את הסופר מכונה לעמוק בתחום הלמידה המלמידה.
אתגרים ראשיים וסכסוך:
אחד מהאתגרים העיקריים הוא הקצב בו פותחו יכולות גילוי דייפייקים לעומת המומחות של טכנולוגיות יצירה. על רקע נטול משפטי, כמות רבה מתוך המחוזות מחסרים הוראות ברורות לשימוש ולהפצה של מדיה סינתטית. הסכסוך שסביבת הדייפייקים בדרך כלל נוגע לאתיקה, שכן יכולים להשמש לבזמה ולהנחה של אנשים ומעריכי דעת בציבור, מוביל לחסר אמון חברתי. פותחים שאלות על אחריות הפלטפורמות הפעם יצוריות דייפייקים ועל צורך למסגור פותח בודק.
יתרונות של טכנולוגיית דייפייק:
– בידור ואמנות: דייפייקים יש בהם פוטנציאל רב לשנות פרסומות, מאפשרים ליצרנים להחזיר לחיים בדמות של ציירים היסטוריים או לגלגל גיל שחקנים.
– חינוך: ניתן להשתמש בהם ביצירת סימולציות ריאליסטיות או אירועים היסטוריים.
– עסקים: קמפיינים פרסומת פרסומת באמצעות דייפייקים יכולים להגביר את המעורבות והיחסם של לקוחות.
חסרונות של טכנולוגיית דייפייק:
– מידע שקר: סרטוני דייפייק יכולים לפזר מידע שקר, המוביל לבלתי סדרית פוליטית או חברתית.
– אבטחת מידע: ניתן להשתמש בהם לתקיפות פישינג ולגניבת זהויות, המשפיע בצורה משמעותית על אנשים ועסקים.
– משפטי ואתי: דייפייקים קושרים לבעיות הסכמה חמורות ולפוטנציאל לבזה.
למי שמעוניין ללמוד עוד על השפעות הנובעות וההבנה הנוכחית של למידת מכונה בחברה, מומלץ לבקר במקורות עריכתיים כמו:
Wired
MIT Technology Review
איגוד האזרחים לחירות מתארגנית (ACLU)
כל אחד מהמקורות הללו מספק תובנות יקרות בתחום הטכנולוגיה, התקנות האתיקה והמזכיות האזרחיות המשותפות לקריאה על בוא עליה של איי יי וטכנולוגיית דייפייקים.