בעת שהעוני לבחירות בהודו מתקרב, דאגות לגבי ההשפעה של הפייקים העמוקים המבוססי תובנה מלאכותית על מערכות הקמפיין הפוליטי גדלות. הפייקים העמוקים, אשר הם תמונות וסרטונים סינתטיים וריאליסטיים, הפכו לפופולריים ורמתם של התחזוקה עלתה בשנים האחרונות. הם יכולים לשנות את נאומי הפוליטיקאים ואת מראהם, יוצרים תחושת ספק ואי-אמון בקרב המצביעים.
עם יכולת הגישה לנתוני סלולר זולים ולהיט לסמארטפונים הגבוה בהודו, קיוונות כי יתכנסו למקום דרכו של WhatsApp, יש בהם חשש שהפייקים העמוקים יופצו כדי לחולל השפעה על החלטות המצביעים או להעביר להם תהייה לגבי חשיבותם של ההצבעה שלהם.
בכדי לטפל בדאגות אלו, משרד האלקטרוניקה והטכנולוגיה בהודו הפיץ לאחרונה הנחיות לחברות יצורתיות בתחום המערכות המלאכותיות. ההנחיות מבהירות כי אם חברות אלו מציעות מערכות עמק עדיין בבדיקה או לא אמינות, עליהן לקבל אישור ברור מהממשלה ולסמן בהתאם את התוצאות. המטרה היא למנוע את הפצת תככים לא חוקיים או מטעיים שיכולים לפגע בתהליך הבחירות.
עם זאת, הנחיות אלו נתקלו באימה גדולה מהשחקנים המקומיים והבינלאומיים בתחום המכונה. רבים טוענים כי ההנחיות מונעות חדשנות וחירות ביטוי. שר המדינה לקשרי האלקטרוניקה והטכנולוגיה, ראג'ב צ'נדרסקהר, פירט כי ההנחיות אינן מחייבות חברות סטארט-אפים, בו סיפקה קצת פיתרון למצוקת הלב.
שותף לחברת הפייקים העמוקים מיוניום AI, סנתיל נאיגם, יצר "מנגנון התקני AI מוסדי" לקראת הבחירות. מטרתו של תיקון זה היא לוודא כי טכנולוגיות ה- AI ישמשו באופן אחראי ולא יכילו את הבחירות, יפיצו מידע מוטע או יפגעו באמון הציבור במוסדות הפוליטיים. נאיגם פנה לכ-30 חברות, שביניהן חתמו על המנגנון שתיים כבר ושלשה נמצאות בתהליך חתימה.
פייקים עמוקים מבוססי AI אינם כולם רעיוניים של פייקים עמוקים המיועדים להשחית את היריבים. יישומים כמו שיחות פונות אינטראקטיביות ביניני-כימיות משמשים כחידושים אלא את אי-תקינות בחירות. לדוגמא, מפלגות פוליטיות בהודו השתמשו בקולות סינתטיים כדי לשלוח הודעות מוקלטות שמפנות את המצביעים בשמם. בעוד שהיישומים האלו יכולים להיראות חסרי נזק, חשוב להתמקד ביכולתם להעביר מידע שווה.
דיבינדרה סינג ג'אדון, יוצר AI שנודע כ "פרצנאל הידית", הכשיר מודלי AI בשמע ווידאו להפצת הודעות מותאמות למפלגות פוליטיות. הוא טוען כי עובד ביצירות AI "אתיות", כמו תרגומים מורשים ושיקומי עולמות מתים, בהסכמת המפלגה. במובן האובייקטיבי, הוא מכיר כי ככל שהטכנולוגיה של הפייקים העמוקים מתקדמת יותר, מפלגות יוצרות באופן כפול את הפייקים שלהן, מה שהופך את זה ליותר קל להפיץ מידע מוטע.
מומחים בתחום, כמו קארן ריבלּו מאתר הבדיקה העובדת `BOOM', ל־עיתונאות, העירו כי נבחרים של פייקים עמוקים במהלך בחירות אזוריות בהודו בזמן האחרון. הטכנולוגיה הזו הפכה זולה ונגישה יותר, מאפשרת לכל מי שיש לו מחשב כך ליצור פייקים עמוקים. מדוברים כלקוחי לב על השפעת הפייקים עמוקים על ההוגנות והשקיפות של הבחירות.
על אף הדאגות שמעין הפייקים העמוקים, יש בהם גם פוטנציאל לשימוש לטובתם. טכנולוגיות AI יכולות לשחק תפקיד חיובי בשיפור התהליך הדמוקרטי, כמו שיפור נגישות למצביעים עם מוגבלויות או הענפת תרגומים מדויקים של נאומים פוליטיים. המפתח הוא בהבטחת שימוש אתי ואחראי לטכולוגיות אלו.
כאשר הודו מתכוונת לבחירות הקרובות, חשוב לממשלה, לחברות AI ולמפלגות פוליטיות לשתף פעולה, כדי להציב הנחיות וחוקים ברורים לשימוש ב- AI בקמפיינים פוליטיים. בבעת קידום שקיפות, אחריות ושקיפות בתהליך בחירות, יכולה הודו לנצל את הפוטנציאל של ה- AI בעוד שהיא ממזערת את הסיכונים שהיא מציבה.
ההשפעה והדאגות הקשורות לפייקים עמוקים במערכות הבחירות אינן מוגבלות להודו בלבד. שימוש בטכנולוגיית הפייקים העמוקים הפך לנושא גלובלי, עם השפעות על תחומים ושווקים שונים.
הענף של פייקים עמוקים עשוי להתרסק בשנים הקרובות. לפי דיווח מאתר MarketsandMarkets, צפוי ששוק הפייקים העמוקים הגלובלי יגיע לערך של 304.3 מיליון דולר עד 2026, על פי שיעור תחילה של 37.3% מ-2021 עד 2026. על הגידול בשוק ניתן לקרדיט לשימוש מוגבר בטכנולוגיית AI והמודעות הגובלית לפייקים עמוקים.
ההשפעה הפוטנציאלית של פייקים עמוקים מעברת למערכות הבחירות. תעשיות כמו בידור, אבטחת המידע ועיתונאות עומדות לפני אתגרים שקשורים לטכנולוגיית הפייקים העמוקים. בתעשיית הבידור, למשל, ניתן להשתמש בפייקים כדי לשנות את מראה השחקנים או ליצור אווירת ריאליות סביב אווטארים וירטואליים. כך מתעוררים חששות לגבי פרטיות, זכויות קניין רוחני והאותנטיות של תוכן.
בתחום האבטחת מידע, פייקים עמוקים מהווים איום חשוב. סרטונים ותמונות מזויפים יכולים לשמש לשקר פרטים או להשיג גישה לא מורשית למערכות. פושעי סייבר יכולים לנצל את הפייקים עמוקים כדי ליצור התקפות גדי פישינג מנותקות או לשנות ראיון דיגיטלי במהלך הליך משפטי.
העיתונאות היא תעשייה נוספת אשר מושפעת מפייקים עמוקים. הפצת מידע מוטע והשחתת אמון הציבור הם אתגרים משמעותיים הבא
The source of the article is from the blog kewauneecomet.com