חתום במחקר שנערך על ידי אוניברסיטת הרווארד, הבאו לאור היכרות עם היכולות הפוטנציאליות של מודלים לשוניים בגדול (LLMs) בביצוע התקפות פישינג, שנעשו על ידי AI. מודלים אלו, שמופעלים על ידי AI, יכולים לאוטומטיזציה את כל תהליך ההטבעת הפישינג, ובכך לחתוך במשמעות את ההוצאות, בעד 95%, מה שממליץ על הקושי הממשי בזיהוי רוב התוקפים מהסוג הזה.
המשתתפים במחקר שולהו על ידי מיילים פישינג שיוצרו על ידי AI והצליחו בתוצאה דומה לשיעור הצלחה של מיילים שנוצרו על ידי אנשים, גילוי שמעלה את בעיית ההונאה המודרך באינטרנט. ככל שהמהפכה הטכנולוגית מקדמת את האיי, כך חלקו האפל על קיומה יצע חדש של קשיים בתחום האבטחת המידע בסביבת הרשת.
במחקר הודגש הצד האפל של AI בפעולות ההונאה לביצוע הטבעת מידע, בבחירת מטרות וביצירת הודעות מטעותיות לרווח כספי. עם זאת, הטכנולוגיה הזו יכולה גם להיות מפתח להיאבקות בניסיונות מעוקשים אלו.
חוקרים הדגישו את הדו-קיום בין המודלים של AI, כאשר חלקם הציג כישור מצוין בזיהוי יותר, אף ממיילים הפישינג המתעקשים ביותר, ועלולים להיבטות על כושר אדם מסוים.
במהלך הניסויים, מודלי AI זיהו מניסיונות פישינג והציעו אמצאות נגדית מצוינות, כגון עידוד משתמשים לוודא קניית מבצעים שנראים טובים מידי, ובכך להציג את היכולת המונעת של AI נגד כאבים אלה.
האגף הפדרלי למסחר (FTC) ממליץ לציבור כי הדרך הטובה ביותר להתחמק מהונאות הפישינג היא לא ללחוץ על קישורים משולחנים לא ידועים, תמיד לוודא את אימתות המקור ולדווח על פעילות חשודה לקבוצת עבודה למניעת פישינג. ככל שהזירה המקוונת מתקדמת, כך הצורך באסטרטגיות הגנה עברית ורכותה – שבהן הAI עשוי לשחק תפקיד מפתח.
The source of the article is from the blog elektrischnederland.nl