על פי נציג גבוה במנהלת הביטחון הלאומי (NSA), האקרים והפרופגנדיסטים משתמשים באופן מתמיד באינטיליגנציה מלאכותית מסוג צ'אט כדי להופיע אמיתיים יותר בעיני דוברי האנגלית המקוריים. במפגש הבינלאומי לביטחון סייבר, גילה רוב ג'ויס, מנהל סייברביזה של NSA, כי פושעים מחוברים למודלים מלאכותיים כמו ChatGPT כדי להדמות תקשורת באנגלית שוטפת.
ג'ויס הדגיש כי מערכות הצ'אט הללו שיפרו מאוד את יכולות התקשורת באנגלית שלהן, מה שהופך אותן למומחות ביצירת תוכן תקנותי ומשכנע. השיפור הזה מוריד ממחזיקי המודלים תהיות משמעותיות, מאשר שפעולות הפעילות (activities) לכידת הפרטים האישיים תלויות לפעמים בתכני פישינג מסוכנת. עם הסיוע של מערכות האינטיליגנציה המלאכותית, הפושעים מרגלים, יכולים ליצור ולתקשר הודעות שונות ולהוזיל בכך את הזיהוי של פעילות רעה ברשת.
שימוש פעיל במערכות שלא יצרו ממשלות לאומיות כגון רוסיה, חיזוק רצח תדמיתה האמריקאית המתרחשת הם המטרה של מבצעי האינטיליגנציה. הם יכולים לייצר בקלות הודעות משכנעות באנגלית, וכתוצאה מכך מגבירים את ההשפעה הרעה שלהם.
, הסמכות מכחישה שהמגזר הזה של פעילות ממוקדת הוא נפוץ ומשפיע על כל המודלים הגדולים. שומרות כגון OpenAI ו-Google, יכולים להציע מערכות, בהן ChatGPT ו-Bard, שנמצא כי יצרו תוכן משכנע להבטיש אימייל פישינג.
בעוד שירvicשורות קודמות תכני כגון אימצות לשימוש בירורים פליליים, מראות שיש לאפלמלו גישה נוחה לתגובת הגורם ליצירת תוכן משכנע.
אך פרויקטים כאלה אינם רק כלי לגורמים רעים; הם מעניקים את יתרונם בתחום הביטחון סייבר גם הם. בdevelopers , מנהל מגזר אבטחת המציע AI, יכולים לזהות פעילות מדוברת בזמן ואף להפחיתה.
עם התפתחות רק"מ מתמיד, חשוב למוסמכים הביטחוניים ולמפתחי ידע להכיר בהשלכות התפלגותיה באופן תדיר וכן להמיר את מנגנוני ההגנה במאמץ הגנתי, מול איומי הסייבר.
The source of the article is from the blog portaldoriograndense.com