سام التمان، رئیس اوپن‌ای‌ای پیشنهاد داده‌است تشکیل یک سازمان بین‌المللی را که مسئول نظارت بر توسعه و اجرای سیستم‌های هوش مصنوعی بسیار قدرتمند باشد، ارائه کند. هدف این اقدام، تضمین مدیریت این فناوری‌های نوآورانه با سطح لازمی از ایمنی است.
متمرکز بر حفاظت از منافع عمومی، پیشنهاد التمان نشان‌دهنده درک روبه‌رشد تاثیرات عمیقی است که هوش مصنوعی می‌تواند بر جامعه داشته باشد. به محض اینکه این فناوری‌ها به پیشرفت خود ادامه دهند، ممکن است از فرم‌های سنتی تنظیمات و کنترل عبور کنند، از این رو نیاز به یک سازمان متمرکز بر نظارت بر تکامل آنها وجود دارد.
پیاده‌سازی چنین سازمانی حول اطمینان از این می‌گردد که برترین کاربردهای هوش مصنوعی با استانداردهای ایمنی مورد تصویب قرار گیرند. طرح پیشنهادی پیشنهاد می‌دهد که این رهنمودها توسط پژوهش‌ها و درک مستمر از تبعات هوش مصنوعی شکل گیرد.
این موقف منطبق با یک توافق سراسری در میان کارشناسان فناوری است که اقدامات پیشگیرانه را برای حل مشکلاتی که با هوش مصنوعی پیشرفته همراه است، ترویج می‌کنند. با ایجاد توافقات و ساختارهای بین‌المللی، امیدواریم که این فناوری منجر به بهره‌برداری از بشر شود و در عین حال کمترین عواقب منفی غیرمنتظره را داشته باشد.
هنگامی که این گفت‌وگوها ادامه می‌یابند، نظر التمان بر سراپ و تلاش‌های همکارانه در حوزه حکومت هوش مصنوعی، اهمیت آنها را به روشنی نشان می‌دهد. این یک ترمیم برای کشورها و سازمان‌ها برای توسعه چارچوب‌ها است که کاربردهای حداقل قدرت هوش مصنوعی را مسئولیت‌پذیر کنند.
حقایق:
– انتظار می‌رود سیستم‌های هوش مصنوعی پیشرفته تأثیرات تبدیل‌کننده‌ای بر اقتصادهای جهانی، بازارهای کاری و ساختارهای اجتماعی داشته باشند.
– تضمین استفاده اخلاقی از هوش مصنوعی از اهمیت غیرقابل انکاری برخوردار است، با توجه به توانایی‌های این فناوری‌ها در تأثیر بر حریم خصوصی، امنیت و حقوق بشر.
– حکومت هوش مصنوعی نه تنها شامل نظارت فناوری است، بلکه همچنین هم‌راستایی آن با ارزشها و مقررات اجتماعی است.
– یک وسعه‌ای از ذی‌نفعان در زمینه هوش مصنوعی وجود دارد، از جمله شرکت‌ها، دولت‌ها، صنعت دانشگاهی و جامعه مدنی، هر کدامی که ممکن است دارای منافعی باشند که همیشه سازگار نیستند.
– مدل‌های بین‌المللی برای نظارت بر فناوری، مانند پیمان‌های عدم گسترش اسلحه‌های هسته‌ای، ممکن است به عنوان یک پیش‌نمونه برای ساختارهای حکومت هوش مصنوعی بکار برود.
سوالات مهم و پاسخ‌ها:
– س: چه چالش‌های اساسی با ایجاد یک سازمان نظارتی جهانی بر هوش مصنوعی پیشرفته همراه است؟
– پ: چالش‌ها شامل تامین همکاری بین‌المللی، توازن بین منافع متنوع ذی‌نفعان، تضمین شفافیت و مسئولیت‌پذیری، و سازگاری با سرعت سریع پیشرفت فناوری می‌باشد.
– س: چه اختلافاتی ممکن است از چنین نظارت جهانی ناشی شود؟
– پ: اختلافات ممکن است از تضاد در مورد چه ارزشها و قوانینی باید راهنمایی توسعه هوش مصنوعی، ترس از توقف نوآوری، مسائل اجرا و سرزمین خواری دولتی، و سوء‌استفاده از نظارت هوش مصنوعی توسط خود سازمان نظارتی ناشی شوند.
چالش‌ها و اختلافات اساسی:
– دستیابی به تعادل عادلانه‌ای از قدرت میان کشورها در سازمان نظارتی.
– مدیریت مقایسه‌ها بین نوآوری، خصوصیت و امنیت.
– قراردادن معیارهای واضح برای آنچه که هوش مصنوعی “خیلی استثنایی” به حساب می‌آید.
مزایا:
– یک سازمان جهانی می‌تواند یک استاندارد قابل قبول جهانی برای ایمنی و اخلاق هوش مصنوعی قرار دهد.
– ممکن است همکاری بین‌المللی و اشتراک بهترین روش‌ها را تسهیل کند.
– نظارت چنین می‌تواند کمک کند تا رقابت با اسلحه هوش مصنوعی جلوگیری شود و خطرات توسعه بی‌نظارت هوش مصنوعی خنثی شوند.
معایب:
– امکان تخلف از حاکمیت ملی یا تضعیف نوآوری بخاطر بیش‌تری تنظیم.
– چالش‌های اجرا و حفظ ارتباط با سرعت سریع تکامل هوش مصنوعی.
– خطر گرفتاری تنظیمی، جایی که سازمان نظارتی تحت تأثیر بهانه‌گران ترین ذی‌نفعان است که موظف به نظارتند.
برای اطلاعات بیشتر و بروز نگه‌داشتن از آخرین توسعه‌ها و مباحث درباره هوش مصنوعی، توصیه می‌شود وب‌سایت‌ها و سازمان‌هایی را که برای گفت‌وگو مرکزی هستند مانند اوپن‌ای‌ای، هوش مصنوعی جهانی، و نقد فناوری MIT دنبال کنید. این پیوندها با اطمینان به میزان اصلی بودن دامنه‌های مربوطه ارائه شده‌اند.