הסיכונים של נשק אוטונומי שנמצא בניהול ההמון ותפיסת נשק "קרבות חץ"

התפקיד של המודיעין המלאכותי במלחמה המודרנית יוצר איומים חדשים

בנוף המשתנה של המלחמה, מערכות נשק עצמאיות המופעלות על ידי המודיעין המלאכותי (AI) הן נושא דחוף לביטחון גלובלי. הפרופסור קרל האנס בלסיוס, פורצה דרך במדעי המחשב המתמחה בAI, מעיר על הפוטנציאל שיש לטכנולוגיות כאלו לגרום למחזורי התקפה מהירים שחורטחים מחוץ לשליטת אדם.

הפרופ בלסיוס מספק עיון בית בית נושאי היתר של עצמאות בטכנולוגיה, כגון הפוטנציאל של רכבים בעלי קידום עצמי ורובוטים בסביבות מסוכנות. עם זאת, הוא מדגיש את הסיכונים הגדולים הקשורים לנשקים שפועלים באופן עצמאי המיועדים להרס. הוא מטיל חשגת על כך שלא נחוץ לאוטומציה של פעולת הריגה, והוא מזהיר על קידמות פקטואליות מסוכנות, כולל אלה הקשורים לנשק גרעין.

באמצעות השוואות עם אלגוריתמי סחר בתדלות בעולם הכספים, אשר גרמו להתפרצויות שוק פתאומיות אשר מוכרות בשם "flash crashes", הפרופסור בלסיוס מזהיר כי נשקי הובלה עשויים להילחץ כן להימות לא מתוכננים באופן דומה, מה שעשוי לגרום ל"מלחמות בהבזעות" "flash wars" יתר מהר ולבלתי נשלט.

על רקע השימוש הקיים של AI בזיהוי מטרות צבאיות, כמו כן בשימושם של ישראל לזיהוי לוחמי חמאס ומיקמם, מביע פרופ בלסיוס דאגה ביחס לחוסר אימות אנושי במצבים כאלה, אשר עלול להוביל בסופו של דבר למכונות להחליט מי יחיה ומי ימות, כולל אזרחים.

סיכום בלסיוס מתייחס לצורך בAI בניהול המורכבות לא פחות מפליץ ולדחקות במורל של פתחים אלו, בשל הפוטנציאל שלהם להדיח את שיפוט האדם ושדר את השלכותם האתיות.

אתגרים וסכסוכים של נשקים עצמאיים מוביילים המופעלים על ידי AI

נשקים עצמאיים שמופעלים על ידי AI גורמים לסדרת שאלות ואתגרים מורכבים שזעמו עשרות תחומים כגון תעשייתי, פוליטי, אתי ומשפטי. כאן מפורטים מספר האתגרים והסכסוכים העיקריים:

אחריות: אחד הבעיות העיקריות במערכות נשק עצמאיות היא השאלה מי ייאמן באחראות במקרה של הרס בלתי מכוון או מוות לא נכון. ללא הנחיות ברורות, כפיית אחריות על פעולות הננות מצד AI עשויה להיות אתגרית.

התחשבות אתית: השימוש בAI במלחמה מעיר שאלות אטיות על דילול אומת האנוש. מכונה לא מעריכה חיים אנושיים, גרורה את משאבות שהפעלתם במבצע לוחמה עשויה לגרום לפרופנסיות גדולה יותר להנות ממקום ולאבד חיים נוספים.

קרוט לבינת המדינה המדינית: לעולם, ההחלטה לגשת למלחמה היא החלטה פוליטית שמתקבלת על ידי נציגים נבחרים או מנהיגים. עם מערכות מופעלות בAI שמסוגלות להתגבר על איומים באותו הלחץ, יש חשש שבתהליך הפוליטי עשוי להימלט כמו כן יתקיימו מלחמות בלי הליך דמוקרטי.

התפשטותם של איומים צבאיים: פרסום נשקים עצמאיים עשוים להוביל למירוץ הגיגים, כל מדינות יחפשו לא להיות שוללות על ידי היכולת של אחרים. זה עשוי להוביל למתיחות נוספת בין המדינות ולאינסטביליות גלובלית.

סיכון של פגז: מערכות במוביילשל AI ניתנות לכשלים טכניים וונזיות. במקרה של תקלת תוכנה או תקיפת פריצה, נשקים עצמאיים עשוים להשתתף בהתנהגויות בלתי רצויות או לא צפויות שעשויות להתקדם לסכסוך.

יתרונות וחסרונות

יתרונות:

– הגברת יעילות ומהירות בתגובה לאיומים
– צמצום סיכון לחיילים אנושיים במצבי קרב
– דיוק במטרות העשוי לצמצם נזק צידי בהקשרים מסויימים
– פעולה בסביבות המסוכנות מדי לאנשים

חסרונות:

– פשיטת דעת לאחריות ודימוי אנושי קטן
– שאלות אתיות לגבי ערך החיים האנושי ולקביעת החלק [החוקה] בייצול כוח רצח
– אפשרות של כשלים או אחיזה של איבים
– סיכון של הסתכלות מלחמה והפשטה של סכסוך צבאי (מלחמות בהבזעות)
– דילמה בתכנות AI להתאמת דין האינטרנציונלי לשלום עתיר

שאלות מרכזיות:

1. מי אחראי על הפעולות שנעשות על ידי מערכות נשק עצמאיות?
2. באילו מניעים ניתן להפגיע באיבות של מלחמות המופעלות על ידי AI לדין האנושות הבינלאומי?
3. אילו תקנים ניתן להניח כדי להבטיח עיקרון השקפת האדם המתאים מעל מערכות נשק עצמאיות?
4. אילו כלים ניתן להפעיל כדי למנוע עשיית הפצה והתפשטות של נשקי עצמאיים המופעלים על ידי AI?

כאשר הדיון סביב נשקים עצמאיים המופעלים על ידי AI משכך, האומות המאוחדות היו פלטפורמה סביבה. הסכמה גלובלית בנוגע להסדר והשליטה בנשקים אלו.

בסופו של דבר, למרות שככלות יש יתרונות להפקת אי במשימות צבאיות, החסרונות והסיכונים מחדירים את הצורך לשיקול דעת והפיקוח לרמות גלובליות. עיקר של "מלחמות בהבזעות" משמשת תזכיר קודרת לב על המותקב ודריכה לעבר התוצאות הפוטנציוליות של ריצת הראש אליו ליישומי AI במלחמה ללא בדיקות שלו ואיזור צורך.