שימוש בבינה מלאכותית (AI) ביצירת חומר תעמולה משכנע סימנה צעד משמעותי באסטרטגיות המתפתחות של ISIS. לאחרונה, העולם עד לעיניו את התוצאות שאחריות לאירוע מרותח שבו התקיים תקפת חומה במוסקבה ב־22 במרץ, אשר הביאה לפחות 145 נפגעים ויותר מ-500 פצועים. לא מעט זמן לאחר מכן, סניף חורסאן של ISIS הציע כבודים, והפיץ וידאו חדשותי מושלם במועט יותר מ־4 ימים לאחר האירוע.
קבוצת המודעות SITE, חברת ייעוץ אמריקאית מוכרת במעקבה אחר פעילויות המקבילה של גופים רדיקליים באינטרנט, שיתפה תובנות עם The Washington Post, וחשפה את שימוש בווידאו בשידור חי שנוצר על ידי AI לשידור האירוע. המומחים דיווחו ש־ISIS הקימו פלטפורמת וידאו, "התסגרות חדשות", מיוחדת לשימוש בהפצת תעמולה מופעלת על ידי AI.
בקטע מפורט של 92 שניות, הצופים רואים צלפה בקסדה שמצהירת כי התקפת מוסקבה אינה משימת טרור בודדת אלא חלק ממלחמה אינטנסיבית ונמשכת נגד מדינות המולחים את ISIS ואת האיסלאם. צלפת זו קוראת תסריטים הנכתבים על ידי כנפי התקשורת של ISIS, El Naba ו־Amak, ממחישה את שימוש המתוחכם בAI ליצירת קרוניקאים חזותיים.
ריטה קאץ, מייסדת אחת מחברות המודעות SITE, הדגישה כי מהחודש מרץ והלאה, תפוצית החדשות המיוצרות על ידי AI חלקה שבועית. היא הדגישה את הפוטנציאל המשנה את המשחק בעד צד ה-ISIS, מאחר שהAI מאפשר להם להגביר את ההודעות האכזריות שלהם באופן גלובלי.
The Washington Post גילתה כי מאז ההתקדמות, התפרסמו שישה וידאו דרך הפרסומת מאז ההתקדמות, כל אחד מתייחס לפעולות הקשורות לקבוצות הקשורות ל-ISIS בעשרות מדינות, כולל ניז'ר, קמרון, ניגריה, עירק, וסוריה. עיבודים ספציפיים של AI המשמשים על ידי ISIS נשארים לא זוהים.
סטיבן סטאלינסקי של מכון MEMRI בוושינגטון, די.סי., הגיב שהבלוטינים אלה אינם מיוצרים על ידי כנפת התקשורת הרשמית של ISIS El Hayat, אך השקיעה בסיכוי של ISIS לפתח יחידת AI מתמחה בעתיד. הסרטים נראו כאילו הועלו על ידי יחידה בשם Hisad, אך פרטים נוספים אודפו לגבי המשתמש הזה.
סטאלינסקי, כמו כן, דגש על שימוש פלטפורמות ההודעות כמו Rocket.Chat, Twitter, ו־Telegram על ידי תומכי ISIS לפיזור עקרונותיהם, מציין כי החברות נכשלות בהסיר ביעילות את התוכן הזה מהפלטפורמות שלהן.
בינה מלאכותית (AI) משפרת את יכולות הלחימה אסימטרית של ISIS על ידי בירור עלויות וסיכונים המובילים לייצור והפצת תעמולה. פיצוח סרטונים שנוצרו על ידי AI מאפשר עימותת כינוי ובטיחון ליוצרים, שאינם צריכים עוד לסכן את הזהות דרך שידורים חיים או דיווחים מהקו הקדמי. הפרסומאים החדשותיים שנוצרו באמצעות AI עשויים להעתיק מותגים בצורה משכנעת, מעניקים ל-ISIS את האמצעים לשדר את ההודעות שלהם ברחבי העולם בלי לסמוך על משתתפים אנושיים המוצפים לתפיסה או להוצאה להורג.
שאלות חשובות לשאול:
– איך שימוש בבינה מלאכותית בתעמולה משפיע על המאמץ הגלובלי לסכן את הגאונים האלימים?
הAI בתעמולת ג'יהאד מורכבת את מיומנויות המאבק כי הרקעו וההקטנה יותר קשה. היא מחייבת כלים מעקב מתקדמים ומנתחת סביבת השימוש בAI.
– מהם האתגרים במניעת הפצת תוכן קיצוני מופעל על ידי AI?
אחד מהאתגרים העיקריים כולל את ניפוי התוכן המופעל באמצעות AI מהתוכן המקורי ופיתוח אמצעי נגד AI. פלטפורמות המדיה החברתית גם נאבקות עם המעט הגם של התפצות התוכן וזיהוי מה מהו חומר קיצוני.
– מה ניתן לעשות כדי למנוע מארגונים כמו ISIS לגשת ולהשתמש בטכנולוגיית AI?
זו שאלה מורכבת עקב כך שטכנולוגיית AI מתקרבת יותר לכולם. יש דיון בנושא תקנון טכנולוגי ובספקטרום של חינוך ומשאבים לשיפור הליטרציה הדיגיטלית בכל העולם להביא מענה מול המידע שקר.