מיקרוסופט חשפה לאחרונה כי צרפאי אמריקה, שממומנת במיוחד על ידי רוסיה וצ'ינה, החלו גם הם להשתמש בטכנולוגיית בינה מלאכותית (AI) שמייצרת תוכן חדש ומקורי על מנת להשתמש במבצעים סייבריים תוקפניים. בנוסף, מיקרוסופט הודיעה כי איראן וצפון קוריאה, אשר בני שניהם הם יריבות מוזרות של ארצות הברית, משתמשות גם הן בבינה המלאכותית היצירתית הזו, אם כי למידה פחותה. על אף שיטות אלה נמצאות עוד בשלביהן הראשוניים ואינן באופן מיוחד חדשניות, מיקרוסופט מאמינה כי חשיפתן בצורה ציבורית היא דבר עיקרי מאוד כיום, זה קרוב מאוד לרגע שבו מדינות רבות משתמשות במודלים שקופצי שפות גדולים כדי לפרוץ לרשתות ולהגיע לןגרסות התפקששות
הבינה המלאכותית היצירתית, ובמילות הולכי רוח בעקבות לידתה של ChatGPT של OpenAI, העלתה את המשחק של מגרעת פורת החתול בין חברות ביטחון סייבר ופושעים/האקרים תוקפניים. מיקרוסופט, שהשקיעה בחסד בחברת OpenAI, אזהרה כי אנו על סף התפתחות שולי-חשובה בסתם הבנה חברים רעים לצמיחה חברים טקטית להפצת חוקית עמיתיהם. זה מהווה איום רב לתהליכים דמוקרטיים, במיוחד בשנה בה מבצעים בחירות במדינות מרובות, מה שמגביר את הפצת ההטעיות.
מיקרוסופט נתנה דוגמאות שונות לשימושים שונים שהיריבים של ארצות הברית, איראן וצפון קוריאה, עשו בבינתיים עם AI עוברת היונים. הקבוצה הצפונוקוריאנית מרובי המספר אחרי הממה, השתמשה במודלים במטרה לחקור את החשבונות החיצוניים של התנדבותים וליצור תוכן עבור מבצעים לחישול בנושאי דכוי מחץ פזורים. המשמר המהפכני איראן השתמש במודלים במערכות הנפיקה החברתית, לפתור את תקלות התוכנה, ללמוד איך להימנע מזיהוי רשת, לכלול יצירת דואר דיגיטל. יחידת מודיעין ברית-משטר רוסיה, הידועה כיוחדת בתקנה חגיגית, חקרה את טכנולוגיות הסגנון שמתקדמים בטכנולוגיות הספות הקשורות לסכסוכים באוקראינה. סיני ספי אפלים יחידותיו לחקר הסייבר וסיני ספי אפלים גם חשבו איך יתכן שמודלים במסגרת שפות גדולות ישדרגו את הפעולות הטכניות שלהם.
עם זאת, OpenAI הבהירה כי המדובר בדגם התגובה ChatGPT הנוכחי יש ביכולתו לכפפה אל יכולות מוגברות תוך שימוש בכלים שאינם מונעים יחד הפעלת AI. אף על פי שחוקרי בטחון סייבר ציפים שזה ישתנה בעתיד.
המובילות שיש להם בממשק החקירה וכאבור בריאות הנושא, ג'ן אסטרי, הדגישה את החשיבות המוחלטת של צ'ינה ובינה המלאכותית כאיומים ואתגרים שמוגדרים כאפוק אפוך. היא הדגישה את הצורך בבנייה של בינה מלאכותית אמורה שתהיה אנל מבי ושמגן על הפרטיות.
עבור מיקרוסופט ותפקידיו חשוב לא לטפחת את נקודות התורפה במודלים שקופי שפה גדולים, אלא גם לתת עדיפות לשיפורים בביטחון כללי. שימוש בבינה מלאכותית ובמודלים שפות גדולות, למרות התוצאות עצמן, ידאג כי יתכן שזה יהפוך לאחד מכלי האיום היותר חסרי עמתה לשיטה הצבאית של כל אזרחות מדינת הנאות. יש תוצאונה שתייגע בענייןו של קהילת ביטחון המידע להשאיר יושבת רגל ולעבוד במשך זמן לשם התפשטות טכנולוגיות הבינה המלאכותית המתפתחות
The source of the article is from the blog kewauneecomet.com