מייקרוסופט חשפה באחרונה שמדינות כמו איראן וצפון קוריאה, ובמידת פחות רוסיה וסין, משתמשות בביצוע פעולות סייבר מתוך ביזמת בינה מלאכותית (AI) יוצרת על מנת לארגן מבצעים סייבריים תוקפניים. על אף שהטכניקות המופעלות עשויות שלא להיות חדשניות מידי, חשיפתן חיונית עקב הפוטנציאל שלהן לפרוץ לתוך רשתות ולתעמת מידע. עם הופעת מודלים בלתי יכוללים במידע שפה, כמו ChatGPT של OpenAI, משחק החתול והעכבר בין חברות אבטחת המידע והאחקרים נכנס לשלב חדש.
שותפות בין מייקרוסופט ל-OpenAI, בלתי נפרד ממאמציהם המשותפים לזיהוי והפרעה של איומים מונעים על ידי AI זנים תוקפניים, מספקות תובנה בנושא של מדיניות הקרבה המתפתחת. הפוטנציאל של AI יוצר לשיפור פניות סוציאליות רעות מזוהות כאיום ברור על התהליכים הדמוקרטיים, במיוחד כאשר מעל מ-50 מדינות מתוכננות לקיים בחירות השנה.
דוגמאות שמייקרוסופט מציגה מציגות את הדרכים השונות שבהן AI נעשה שימוש על ידי קבוצות יריבות שונות. קבוצת הסייבר Kimsuky של צפון קוריאה, השתמשה במודלי שפה בלתי יכוללים על מנת לבצע מחקרים על מחשבונים חו"ליים ולהפיק תוכן עבור מבצעי דיג שור. הסייבר של עזה לקהילה האיראנית, משתמש בטכניקות AI עבור פניות סוציאליות, באיתור תקלות תוכנה ובפיתוח דואר דיג מזויף על מנת להביא למזער את הקורבנות. יחידת המודיעין הצבאית הרוסית GRU, בידור התותחים, בחנה טכנולוגיות מילחמתיות קשורות לסכסוך כמו המלחמה באוקראינה. בנוסף, קבוצות הסייבר הסיניות Aquatic Panda ו-Maverick Panda, גם התנגדו לתקשורת ברמת AI כדי לשפר את פעולותיהן הטכניות ולאסוף מידע בנושאים רגישים שונים.
בעוד OpenAI טוענת כי הושגת המודל הרביעי שלה, GPT-4, "צ'אטבוט" כיום מציע אפשרויות מוגבלות לפעילויות איומיות בתחום האבטחה, מומחים מתנבאים שזה ישתנה בקרוב. הכוח הפוטנציאלי של AI ומודלים בלתי יכוללים במידע πככלי יכולות הוטאן חששות מהמקצוענים באבטחת המידע ומהמתיישבים.
הבטיחות והפיתוח האחראי של טכנולוגיות AI הפכו להקיימות.
אכן, עם מאבקים הצוברים ביקרתיות של AI בתחומים שונים, כולל אבטחת לאומית, חשוב לגוון מחדש את הגישה לפיתוח של AI. ניהול תכנה AI עם תכונות אבטחה מחוזקות חייב להיות יתרון בצורה מועדפת כדי להקל על המוסתר מסוכנה המשמשת ביישומים הרע. באור קושיים ניכרים של AI, שיתוף פעולה בין חברות טכנולוגיה, ממשלות וחוקרים הופך עוד יותר לקריטי לבנית עתיד דיגיטלי בטוח.
על פי שאלות הנפוצות
1. אילו מדינות משתמשות בביצועים סייבריים תוקפניים בעזרת בינה מלאכותית (AI) יוצרת?
– מייקרוסופט חשפה כי מדינות כמו איראן וצפון קוריאה, ובמידת פחות רוסיה וסין, משתמשות בבינה מלאכותית יוצרת לביצוע פעולות סייבריות תוקפניות.
2. למה חשיפת הטכניקות שמתבצעות בAI תוקפנית היא חיונית?
– חשיפה של הטכניקות הללו חיונית משום שיש להן את הפוטנציאל לפרוץ לתוך רשתות ולשנות מידע, ולהסתייג מהם איומים על התהליכים הדמוקרטיים.
3. מה היא הקשר בין מייקרוסופט ל-OpenAI?
– מייקרוסופט ו-OpenAI יוזמים על שותפות, והם עובדים ביחד לזיהוי ופיתול של איומים מהונדסים על ידי AI.
4. איך AI מונשמת בקבוצות יריבות?
– דוגמאות שמייקרוסופט מציגה מראות שקבוצות יריבות השתמשו ב-AI לפעולות כמו מחקר, הפקת תוכן למבצעי דיג שור, בניית תוכנות הונאה חברתית, פיתוח דואר דיג מזויף, בחינת טכנולוגיות ציוי ורדאר הקשורות לסכסוך כמו המלחמה באוקראינה, ואסקרים של מידע בנושאים רגישים שונים.
5. האם הודדה GPT-4 של OpenAI מציעה יכולות לפעילויות איומיות בתחום האבטחה?
– OpenAI טוענת שה- GPT-4 שלה צ'אטבוט שוהוה כיום הצעות מוגבלות לפעילויות איומיות בתחום האבטחה, אך מומחים ניתן להומר שזה ישתנה בעתיד.
מונחונים מרכזיים וג'רגון
– בינה מלאכותית יוצרת (AI): מדובר במערכות AI שיכולות ליצור תוכן חדש, כגון טקסט, תמונות או סרטונים, במתן לפטרנים ודוגמאות שלמד
The source of the article is from the blog tvbzorg.com