در میان بحث‌های سخت و داغ در مورد هوش مصنوعی (AI) در ولی‌عهد سیلیکون، یک جنبه از چشم‌اندازها به روشنی مشخص شده است: استفاده از AI در عملیات نظامی و پیامدهای اخلاقی آن. گفتگو معمولاً بین کسانی که هشدار می‌دهند از آخرالزمانی که AI به وجود می‌آورد و کسانی که تسریع در توسعه AI را ترویج می‌کنند، نوسان می‌کند؛ اما واقعیت استفاده فعلی از AI در جنگ باعث بروز نگرانی‌های اخلاقی فوری می‌شود.
اخیراً، نیروهای دفاعی اسرائیل (IDF) به گونه‌ای AI از سیستم‌هایی مانند “Lavender” برای شناسایی اهداف داخل گزا استفاده کردند تا برای اقدامات بالقوه، طبق گزارشی توسط مجله +972. به استناد داده‌های مراقبت گسترده، این الگوریتم‌های AI مسئولیت شناسایی افراد احتمالاً مرتبط با گروه‌های مخالف را داشتند. گزارش نشان داد راحتی نگران‌کننده‌ای وجود دارد که AI می‌تواند پتانسیل بهبود فرایند تعیین و اجرای حملات بر علیه این اهداف را به وجود بیاورد.
همانطور که این سیستم‌ها به کار گرفته می‌شوند، نظارت انسانی را حداقل می‌کنند، به‌طوری که برخی از پرسنل IDF گزارش داده‌اند که مشارکت آن‌ها به تمامیت تنها در زمان‌های ثانیه‌هایی در هر هدف کاهش یافته است—کارکردهای انسانی را به یک “مهر تایید” تبدیل کرده‌اند. در حالی که نیروی دفاعی اسرائیل دعواها را که درباره‌ی استفاده از سیستمهای AI به این روش صورت گرفته است رد می‌کند، گزارش به تجلی نقش AI در جنگ‌های مدرن می‌دهد—یک ابزار که برای خدمت به منافع قدرتمندان استفاده می‌شود.
در حالی که بحث در مورد تهدیدات آینده AI ادامه دارد، برنامه‌های فعلی AI در عملیات نظامی، به ویژه نوعی که می‌توانند باعث اتلاف زندگی‌های بی‌شماری شوند، نیاز به توجه فوری و بررسی دارند. این نمونه‌ها باعث بحث لازم در مورد مسئولیت‌های اخلاقی می‌شوند که با یکدیگر ادغام AI در حوزه‌هایی از زندگی که قیمت‌ها به شدت بالا است، و که پیامدها به فرض‌های خیالی روز قیامتی انسان می‌دهد. این بحث نگاه متعادل و اطلاع‌رسان را که هر دو خطرات بالقوه و کاربردهای فعلی فناوری AI را در نظر بگیرد، به تورنمندی می‌آورد.
وضعیت فعلی AI در عملیات نظامی
استفاده از هوش مصنوعی در عملیات نظامی، به عنوان مثال نیروهای دفاعی اسرائیل، یک چشم‌انداز از یک روند رو به رشد در بخش‌های دفاع بین‌المللی است. AI فرصت‌هایی برای افزایش بهره‌وری و کارایی در سناریوهای مبارزه ارائه می‌دهد، از کنترل و مراقبت تا استفاده واقعی از نیرو. نیروهای نظامی در سراسر جهان برای این اهداف از AI استفاده می‌کنند و سعی دارند به دنبال یک مزیت استراتژیک باشند.
پیش‌بینی‌های بازار و رشد صنایع
صنعت دفاع در حال تجربه چشم‌گیری در بخش AI است. به گفته تحقیقات بازاری، بازار جهانی AI در بخش دفاع ادامه به بزرگرایی بر اساس نرخ‌های قابل توجهی است، با پیش‌بینی‌هایی که افزایش‌های قابل ملاحظه‌ای در سال‌های آینده را پیش‌بینی می‌کند. این رشد به دلیل خصوصیت‌های بهبود یافته که سیستمهای AI ارائه می‌دهند، مانند پردازش مجموعه داده‌های بزرگ به سرعت، تصمیم‌گیری‌های تاکتیکی سریع، و حمایت از عوامل انسانی در ماموریت‌های مهم است.
مسائل و پیامدهای اخلاقی
با این حال، استفاده از AI در تنظیمات نظامی با یک آرایه‌های از معاینات اخلاقی همراه است. این‌ها شامل نیازبه مسئولیت پذیری در سیستمهای خودکار، خطر خسارت جانبی، شامل امور اخلاقی کاهش نظارت انسانی در تصمیم‌های زندگی و مرگ است، و امکان ایجاد یک دوره جدید از جنگ سلاح‌های AI بین کشورها. بحث در این خصوص شدت دارد با یک طیفی از نظرات از کارشناسان صنعت، اخلاقیت‌شناسان، و سیاست‌گذاران.
انتقاد کنندگان ادعا می‌کنند که ویژگی‌های دقیقی که AI را برای برنامه‌های نظامی جذاب کننده می‌کنند—سرعت، کارایی، و کمبود احساس انسانی—همچنین می‌تواند منجر به پیامدهای وخیم شود اگر این سیستم‌ها توانایی عمل بدون کنترل انسانی کافی را بدست آورند. علاوه بر این، خطر اشتباهات یا تبعیض‌هایی که به طور غیرعمدی یا عمدی در سیستمهای AI برنامه‌نویسی شوند می‌تواند منجر به صدمات اشتباه به غیرنظامیان شود، با بالقوه تضعیف قوانین بین‌المللی انسانی.
جنگ سلاح‌های AI همچنین مسائل امنیتی و پتانسیلی برای بدافزارنسازی، که سیستمهای AI ممکن است توسط دشمنان هک، گمراه شوند، یا دوباره مصارف داده شوند. این چالش‌ها نیازمند چارچوب‌های اخلاقی قوی و مقررات بین‌المللی برای حکومت علیه استفاده از AI در عملیات نظامی هستند.
زمانی که جهان درگرو این چالش‌های پیچیده است، روشن است که گفتگو در مورد AI در دفاع تنها درباره تردیدهای اخلاقی امروز نیست بلکه درباره پیشرفت‌های فناوری فردا نیز می‌باشد.
برای کسب اطلاعات بیشتر در مورد آخرین روندها و دیدگاه‌های سازمانی به عنوانسازمان هوش مصنوعی منابع معتبر مانند می‌توانند دیدگاه‌های ارزشمندی را ارائه دهند. بسیار مهم است، با این حال، که ادامه دادن بررسی و تنظیم این بخشی که به سرعت در حال تکامل است را برای اطمینان از اینکه پیشرفت‌های در فناوری AI خدمت به اصول قانون بین‌المللی و حقوق بشر باشد.