תפקיד הבינה המלאכותית במלחמה המודרנית מעלה איומים חדשים
בנוף המתפתח בתחום המלחמה, מערכות נשק אוטונומיות מופעלות על ידי בינה מלאכותית (AI) הן תחושה לביטחון גלובלית. פרופסור קרל הנס בלסיוס, פרופסור חוקר בקרינת מחשבים מתמחה בתחום AI, מעיר את הערצתו על פוטנציאל הטכנולוגיות הללו להפעיל מחזורי התקפה מהירים שאינם בשליטת בני האדם.
פרופסור בלסיוס מדגיש את היתרונות של עצמאות בטכנולוגיה, כגון הפוטנציאל לרכבות דוושים עצמאיות ורובוטים בסביבות מסוכנות. אך הוא מדגיש את הסיכונים הקשים המשוכללים על-ידי נשקים הפועלים באופן עצמאי ועוצמתים להרס. הוא מטמין כי אוטומציה של פעולת ההריגה אינה רצויה ומזהיר על התקדמות מיוחדת כוללת, כולל אלה הנוגעות לנשק גרעיני.
בהשוואה לאלגוריתמים למסחר בתעוזות בעולם הכלכלי, שגרמו להתרסקויות שוק פתאומיות ידועות כ"התרסקויות במהירות", פרופ' בלסיוס מזהיר כי נשקים המונפשים ממנועי AI עשויים להשתתף באינטרקציות שלא ניתן לתקן, תוצאתן עשוייה להיות מלחמות "פלאש" מהירות וללא שליטה. תרחישים אלה מתארים עתיד בו מערכות אוטומטיות מתעסקות במלחמה במהירויות בלתי נתמכות על ידי בני אדם, יוצרת תאוצת שלטון ותגובת שלטון.
על רקע קיומה של השתמטות AI בקביעת מטרות צבאיות, כגון השימוש של ישראל בהזדהות נקראים חמאס ומיקומיהם, פרופ' בלסיוס מביע חשש על החוסר באימות אנושי במצבים אלה, המיד עלול להביא למכונות להחליט מי חי ומי מת, כולל אזרחים.
בלסיוס מסיים בכך שהתשוקה ל AI נוצרת על-ידי הצורך לנהל את המורכבות העצומה ולדחות זמן בפעולות צבאיות מודרניות. עם זאת, הוא מכיר באופן פחות מאידאלי של התפתחויות אלה, כתוצאה מפוטנציאלם לדחות את שיקול הדעת האנושי וההשפעות האתיות המתקוממות מכך.