הודיעו הגדולים המאוחדים שיחזקו את תחום הטכנולוגיית AI כנגד יריבים זרים

חיזוק אמצעי אבטחה לבינה מלאכותית
ממשלת ביידן מבצעת אמצעים פעילים להגנה על מודלים המתקדמים ביותר של הבינה המלאכותית (AI) של אמריקה מפני יריבים פוטנציאליים, כגון סין ורוסיה. התוכניות הללו כוללות יצירת מחיצות למניעת שימוש לא נכון בכלים של AI המנתחים כמויות גדולות של טקסטים ותמונות, אשר עשויים לאפשר התקפות סייבר אפילו פיתוח של כלי נשק ביולוגיים חזקים.

קרנות מעוינות עולות מיכולות AI
סרטוני וידאו ששונו על ידי AI, אשר משלבים עובדות עם יצירתו של ארבעות, חודרים באופן מורטת למדיה חברתית. ההתערבויות האלה מעוינות מעויינות את הקווים בין המציאות והדמיון, במיוחד בנוף הפוליטי המפולרזצית של ארצות הברית. למרות שהן קיימות מספר שנים, המדיה המנופחת הזו זכתה לשטח כשנכנסו כלים חדשים של AI לתמיכה, כגון התוכנה Midjourney.

דיווחים ממרץ מצביעים על כך שכלים ליצירת תמונות נתמכים ב-AI מחברות כגון OpenAI ו-Microsoft ניתן לנצל כדי ליצור טפים שמפיצים מידע מטעה אודות בחירות או זכויות בחירות, למרות שהחברות הללו יש להם מדיניות נגד יצירת תוכן מטעה.

לחתוך בקמפיינים של מידע מוטאפיסטים
קמפיינים של מידע מכווצים ניצבים בעזרות ההתחזקות של AI ומסיחים ממציאות כתבים אמיתיים כמונים לסיחת השקרים. ענקים של מדיה חברתית כמו Facebook, Twitter ו-YouTube מנסים להפריע בשמירה על שינויי תמונות הללו, אך הרכיבה של המאמצים שלהם משתנה.

דוגמה להתיחיף הועביר ע"י פרסום מסוכן מאוד, כאשר חדשות מצלב שליטה בסין החזיקו ערוץ מקובל של ארצות הברית בבחינת מעבד נשק חיים בקזחסטן, כפי שתואר על ידי משרד ביטחון המדינה (DHS) בהערכת איום 2024.

יו"ר אבטחת הלאומית, ג'ייק סאליבן התייחס באירוע AI בוושינגטון להגנת הדמוקרטיה מהקמפיינים הפולירזציוניים הנרחבים האלה כלפי היתר, לצורך סיוע ביכולות קשות ממדינת הלאום ואף לא איחרוח ממדינות הלאום והלאום- שתיות.

סיכוני נשק ביולוגיים וסייבר
קהילות המודיעין האמריקאיות והחוקרים מתחשבים בנסיגות מפני סיכונים הגורמים לאפשרויות של מלאכותיים הנוגע לגישת חשיפה של יריבים פוטנציאליים ליכולות מתקדמות של AI. למעשה, דווח על ידי מדעי חברת גריפין ורנד קורפוריישן בוטקין מסבר פוטנציאל לעזור למדינות לקיים נכסים ללמד תודעה משפץ על חולשי וירוסי ופתרון פוטנציאל צד ראשון. מחקר נוסף מ-Rand הראה ש-LLMs יכולות להועיל בתכנון ובייצוג התקפה ביולוגית, וגם בהצעת שיטות הפצת אארוסול לכימיוטוקסין.

בפזמון הסייבר, התרעת האיום של מדינת הביטחון לשנת 2024 אזהרה כי נעשה שימוש ב-AI לפיתוח כלים שמייעץ להתקין הרבה וצפים בתשתיות סייבר גדואים ומהנרמליות, זה נחשף כלים נוספים שנמשך ע"י הכנסת כלי אי. מייקרוסופט מתיעד כי קבוצות האבטחה הפוגגים קשורות אל דרך ממשלת סין, צבאות רוסיים והמשמר המהפכני האיראני משברים את מאמציהם באמצעות הפלאת מודלים לשון גדולים.

על פי ההקשור שסופק מהמאמר, מספר עובדות רלוונטיות נוספות ניתן לתת בחשיבות:

התחרות הבינלאומית בפיתוח AI: המרוץ לשליטות בAI אינו מוגבל לארצות הברית וליריביה. מדינות מסביב לעולם משקיעות באופן משמעותי בבינה מלאכותית. זה יוצר נציחה בינלאומית מורכבת שבה שילוח והתחרות יתרמו באופן מקביל, ויוט את הבטחות הביטחוניות הגלובליות והתהליכים הכלכליים.

קשיים ראשיים במניעה של שימוש לא תקין בAI על ידי יוצרי איבה
יש צורך במניות טכנולוגיות לשמירת AI הם מורכבות ויכולות לדרוש משאבים. תוך כדי, טבע עולמי וקשרו של תעשיית הטכנולוגיה מעשה קשה לשיטוט בנפרת מידע וטכנולוגיה. סיכוני יריבה וריכוז, המהירות הסופית בפיתוח הטכנולוגיה והאפשרויות לאיווי, והפרשי, היכולות הכלליות נורמות ותקנות בין-לאומיות גם מתגבשים קצעים.

הווכחות המתקשרות לפיתוח והגנה של AI
אזהרות בנוגע למרוץ אקטות בתחום "יד-יד במרוץ" AI, הדיעות כלפי מערכות נשק אוטנטיות, המאזנים בין חדשנות ובין ביטחון וסיכויי סייברבורסה מוברכים ו-סייברפ אפשנים הם נצעים ראשיים בתחום פיתוח והגנה בתחום אי פרילוכמת AI.

היתרונות והחסרונות בחיזוק הטכנולוגיים של AI כוללים:

היתרונות:
– הבטחת ביטחון לאומי משיקוף סייבר.
– הגנת תשתיות בדיקה כלכלית והטרמה.
– מניעת התפשטות מידע משפץ ושמירה על תקינת התהליכים הדמוקרטיים.
– שמירת העדיף האסטרטגי ביידוד הטכנולוגי הגלובלי.

החסרונות:
– התחרות בין משיקות ליכולות לי הפיתוח של שלישה.
– הפקחה על שימוש מוגן ועל רקולציה שעלול להחמין חידושים זעפים בדתי טכנולוגי.
– סכנות אתיות ממיקום טכנולוגיות ההגנה, כמו זווי ניטיד לפיקוד איחרוח רוחב‎‎ או הבנות מלחמה.

למידע נוסף, בוחן לביקור באתרי אינטרנט הבאים:

– AI.gov: עבור משאבים ומידע של ממשלת ארצות הברית על מיזם הAI האמריקאי.
– DHS.gov: למשרד ביטחון המדינה שעשוי להכיל הערכות איום ואסטרטגיות הנלבטות על ידי AI וסייברברוסה.
– RAND.org: מוסד מחקר המבצע התמניות על השפעת הAI על מגמות שונות, כולל בסיבור האבטחה.
– UN.org: לעמודי הפניות והיוזמות המהלכות על AI בינלאומיות, כולל הדוני על הדתיקטיבה והמערכות האתיות.