نقش هوش مصنوعی در جنگ امروزی تهدیدات جدیدی ایجاد میکند
در منظریه در حال تحول از جنگ، سامانه‌های سلاح‌های خودکار با استفاده از هوش مصنوعی (AI) یک موضوع مهم برای امنیت جهانی هستند. آقای کارل هانز بلاسیوس، استاد بازنشسته در علوم کامپیوتر با تخصص در حوزه هوش مصنوعی، هشدار میدهد که احتمال بروز چرخه‌های تسریعی فراتر از کنترل انسانی توسط چنین فناوری‌هایی موجب نگرانی می‌شود.
آقای بلاسیوس مزایای خودکاری در فناوری را مانند پتانسیل خودروهای بدون راننده و ربات‌ها در محیط‌های خطرناک برجسته میکند. با این حال، وی به خطرات جدی مرتبط با سلاح‌های خودکاری طراحی شده برای نابودی اشاره میکند. وی بیان میکند که اتوماسیون عمل کشتن غیرقابل قبول است و از پیشرفت‌های خطرناک خبر میدهد، از جمله آن‌هایی که مربوط به سلاح‌های هسته‌ای هستند.
به اشتراک گذاشتن الگوریتم‌های معاملات بسیار فرکانس بالا در جهان مالی که منجر به فروپاشی بازار‌های ناگهانی به نام “فلاش کرش” شده‌اند، برایت بلاسیوس هشدار میدهد که سلاح‌های دارای هوش مصنوعی نیز ممکن است در تعاملاتی غیرقابل پیش‌بینی مشغول شوند که به جنگ‌های فوری و عدم کنترل منجر می‌شوند. این سناریوها تصویری از آینده ارائه می‌دهند که سیستم‌های خودکار در سرعت‌های فراتر از توانایی انسان برای واکنش درگیر می‌شوند، ایجاد اثر مارپیچی از تهاجم و پادتهاجم.
با تأکید بر استفاده موجود از هوش مصنوعی در تعیین اهداف نظامی مانند استفاده از اسرائیل برای شناسایی مبارزان حماس و موقعیت آن‌ها، آقای بلاسیوس نگرانی خود را از عدم وجود تأیید انسانی در این مواقع بیان میکند که در نهایت باعث ممکن است سیستم‌ها تشخیص دهند که کی باید زنده بماند و کی باید بمیرد، شامل غیرنظامیان.
بلاسیوس با بیان نیاز به هوش مصنوعی در مدیریت پیچیدگی و فشار زمانی عملیات نظامی مدرن موافقت میکند. با این حال، او از طبیعت مشکل‌زا این توسعه‌ها اذعان میکند زیرا ازدور رفتن احکام انسانی و پیامدهای اخلاقی آن.
چالش‌ها و اختلافات سلاح‌های خودکاری دارای هوش مصنوعی
سلاح‌های خودکاری دارای هوش مصنوعی مجموعه‌ای از سوالات و چالش‌های پیچیده را به وجود آورده‌اند که در بخش‌های مختلف از جمله علوم نظامی، سیاسی، اخلاقی و حقوقی به مخاطبان شور و هیجان زده‌اند. در زیر برخی از چالش‌ها و اختلافات کلیدی ذکر شده‌اند:
پاسخگویی: یکی از مسایل اصلی با سیستم‌های سلاح‌های خودکاری موجود، سؤال این است که در صورت وقوع نابخشوده نابخشوده یا فوت ناخواسته، چه کسی مسئول باید بود؟ بدون دستورالعمل‌های واضح، تعیین مسئولیت برای اعمالی که توسط هوش مصنوعی انجام می‌شود، ممکن است چالش برانگیز باشد.
ملاحظات اخلاقی: استفاده از هوش مصنوعی در جنگ سوالاتی اخلاقی درباره کم‌ارزشی زندگی انسانی به وجود می‌آورد. ماشین ارزش زندگی انسانی را ارزیابی نمی‌کند و نتواند ارزشیابی نماید، که موجب افزایش نگرانی بر سر صورت قابلیت مشارکت آن‌ها در جنگ و بیش از حد از دست دادن زندگی می‌شود.
تخریب تصمیم‌گیری سیاسی: به طور سنتی، تصمیم برفتن به جنگ تصمیم سیاسی است که توسط نمایندگان منتخب یا رهبران اتخاذ می‌شود. با سیستم‌های دارای هوش مصنوعی که می‌توانند به تهدیدات در چند میلی‌ثانیه واکنش نشان دهند، ترس وجود دارد که فرآیند سیاسی ممکن است بدون رعایت فرآیند دموکراتیک طی می‌شود و جنگ‌ها ممکن است بدون تداوم فرآیند دموکراتیک آغاز شوند.
تشدید نظامی: استفاده از سلاح‌های خودکاری می‌تواند منجر به یک دوچرخه‌ای نظامی شود، زیرا کشورها سعی می‌کنند تا توسط قابلیت‌های سایرین بی‌رویه نباشند. این می‌تواند منجر به افزایش تنش‌های نظامی و ناپایداری جهانی شود.
خطر اشتباه: سیستم‌های دارای هوش مصنوعی به خلل‌های فنی و اشتباهات حساس هستند. در صورت بروز عیب نرم‌افزاری یا واقعه هک، سلاح‌های خودکاری ممکن است در رفتارهای ناخواسته یا پیش‌بینی نشده مشغول شوند که ممکن است به تشدید در تضاد منجر شود.
مزایا و معایب
مزایا:
– افزایش کارآیی و سرعت در واکنش به تهدیدات
– کاهش خطر برای سربازان انسانی در مواقع نبرد
– دقت در هدفگیری که می‌تواند آسیب‌های جانی را در برخی مواقع کاهش دهد
– عملکرد در محیط‌هایی که برای انسان‌ها خیلی خطرناک است
معایب:
– پتانسیل از دست دادن پاسخگویی و کاهش نظارت انسانی
– مسائل اخلاقی مرتبط با ارزش زندگی انسانی و تصمیم‌گیری در استفاده از نیروی کشنده
– احتمال خطاها یا دچار شدن توسط خصومان
– خطرات تشدید و گسترش برخورد‌های نظامی (جنگ‌های فوری)
– معضل برنامه‌ریزی هوش مصنوعی برای رعایت حقوق بین‌المللی کمون
سوالات کلیدی:
1. چه کسی مسئول اعمال یک سیستم سلاح خودکاری است؟
2. چگونه می‌توان جنگ مبتنی بر هوش مصنوعی را با قوانین بین‌المللی انسانی سازگار کرد؟
3. چه مکانیسم‌هایی می‌تواند برای تأمین نظارت انسانی کافی بر سلاح‌های خودکاری در نظر گرفته شود؟
4. چگونه جوامع بین‌المللی می‌توانند از گسترش و تشدید تجهیزات خودکار هوش مصنوعی جلوگیری کنند؟
همان‌طور که بحث درباره سلاح‌های خودکاری دارای هوش مصنوعی ادامه دارد، سازمان ملل به عنوان پلتفرمی به‌شمار می‌آید که این چالش‌ها در آن بحث شده و به دنبال یافتن موافقت بین‌المللی برای تنظیم و کنترل چنین سلاح‌هایی هستند.
کل به‌طور کلی، در حالی که در استقرار هوش مصنوعی در عملیات نظامی مزایایی پتانسیل وجود دارد، معایب و ریسک‌ها نیاز به در نظر گرفتن دقیق و تنظیم در سطوح ملی و بین‌المللی را بیان می‌کنند. چشم‌انداز جنگ‌های فوری به عنوان یادآوری از پیامدهای بالقوه یک راه‌اندازی عجولانه در بکارگیری هوش مصنوعی در جنگ بدون بودجه‌ها و تعادل‌های لازم در دسترس قرار دادن تکمیل میکند.