در تاریخ ۶ سپتامبر ۲۰۲۴، توافقنامهای بینالمللی و مهم توسط اتحادیه اروپا به همراه کشورهای شامل ایالات متحده، بریتانیا، نروژ، اسرائیل و مولداوی امضا شد. این معاهده که به عنوان کنوانسیون هوش مصنوعی شناخته میشود، تعهدات قانونی را جهت تنظیم استفاده از فناوریهای هوش مصنوعی در حالی که اولویت را به حفاظت از حقوق بشر میدهد، تعیین میکند. این ابتکار از سوی شورای اروپا که شامل ۴۶ کشور عضو است، پشتیبانی میشود.
کنوانسیون هوش مصنوعی مکمل قانون هوش مصنوعی اتحادیه اروپا است که به تازگی به تصویب رسیده و به طور واضحی بر حفظ حقوق بشر تمرکز دارد. برخلاف قوانین اتحادیه اروپا که بازار داخلی هوش مصنوعی را تنظیم میکند، کنوانسیون به دنبال پایبندی به تدابیر ایمنی برای افراد تحت تأثیر فناوریهای هوش مصنوعی در هر دو بخش عمومی و خصوصی است.
این کنوانسیون با کمک یک کمیته اختصاصی از سال ۲۰۱۹ شکل گرفت و توسط کارشناسان، از جمله نمایندگان جامعه مدنی، طراحی شد. کمیته هوش مصنوعی شورای اروپا متن این توافقنامه را نهایی کرد و به دولتهای امضاءکننده اجازه داد تا به طور مؤثر به تصویب و اجرای مفاد آن بپردازند.
نگرانیهایی در مورد ابهام برخی از اصول مندرج در این معاهده ابراز شده است. کارشناسان هشدار میدهند که تفاسیر گسترده میتواند استثنائات مهمی را به ویژه در زمینههای امنیت ملی به همراه داشته باشد. علاوه بر این، این معاهده تأکید میکند که شرکتها باید تأثیر هوش مصنوعی بر دموکراسی و حقوق بشر را ارزیابی کنند و هنگام تعامل کاربران با سیستمهای هوش مصنوعی به جای نمایندگان انسانی، شفافیت را تضمین کنند.
شهروندان حق خواهند داشت که به تصمیمات تولید شده توسط هوش مصنوعی اعتراض کنند که این یک گام مهم به سوی پاسخگویی در کاربردهای هوش مصنوعی است.
معاهده بینالمللی در مورد فناوریهای هوش مصنوعی به منظور حفاظت از حقوق بشر امضا شد: گسترش مرزها
در تاریخ ۶ سپتامبر ۲۰۲۴، جامعه جهانی شاهد لحظهای محوری در حوزه حکمرانی فناوری با امضای معاهده بینالمللی در مورد فناوریهای هوش مصنوعی، که به طور معمول به عنوان کنوانسیون هوش مصنوعی شناخته میشود، بود. این معاهده تحت رهبری اتحادیه اروپا و به همراه کشورهای کلیدی مانند ایالات متحده، بریتانیا، نروژ، اسرائیل و مولداوی، نمایانگر تعهدی جمعی برای تنظیم هوش مصنوعی (AI) به شیوهای است که حقوق بشر را در بخشهای مختلف حفظ و حمایت کند.
زمینه وسیعتر معاهده
کنوانسیون هوش مصنوعی یک ابتکار جداگانه نیست؛ بلکه به عنوان مکملی برای چارچوبهای موجود مانند قانون هوش مصنوعی اتحادیه اروپا عمل میکند و منظر قانونی برای فناوریهای هوش مصنوعی را تقویت میکند. این معاهده بر رویکرد انسانمحور برای هوش مصنوعی تأکید دارد و هدف آن حفظ حقوق افراد در مواجهه با پیشرفتهای سریع فناوری است. زمانبندی این معاهده با افزایش آگاهی جهانی درباره خطرات پتانسیلی سیستمهای هوش مصنوعی، از جمله تبعیض، اطلاعات نادرست و نقض حریم خصوصی همراستاست.
سوالات کلیدی مطرح شده در معاهده
یکی از سوالات مهم پیرامون این معاهده این است: چگونه پیادهسازی کنوانسیون هوش مصنوعی مورد نظارت قرار خواهد گرفت؟ هر کشور امضاءکننده موظف است یک نهاد نظارتی برای نظارت بر رعایت قوانین و اطمینان از اینکه فناوریهای هوش مصنوعی استانداردهای حقوق بشر را رعایت کنند، تأسیس کند.
سؤال حیاتی دیگر این است: چه مکانیزمهایی برای افراد به منظور گزارش شکایات مرتبط با هوش مصنوعی وجود دارد؟ این معاهده حق اعتراض به تصمیمات تولید شده توسط هوش مصنوعی را برای شهروندان تضمین میکند و مسیر قانونی برای به چالش کشیدن نتایج مضر یا ناعادلانه ناشی از فرآیندهای الگوریتمی ایجاد میکند.
چالشها و جنجالها
با وجود ماهیت پیشگامانهاش، کنوانسیون هوش مصنوعی با چالشهای متعددی مواجه است. یکی از نگرانیهای برجسته پتانسیل تداخلهای نظارتی با سایر قوانین و دستورالعملهای موجود است. این امر ممکن است منجر به سردرگمی در بین کسبوکارها و مانع نوآوری در بخش هوش مصنوعی شود. علاوه بر این، بحثهایی در مورد تعریف فناوریهای هوش مصنوعی در این معاهده هنوز در جریان است. تعاریف مبهم ممکن است به وجود حفرههایی منجر شود که میتواند حفاظتهای مورد نظر را تضعیف کند.
نقطه جنجالی دیگر، تعادل میان امنیت ملی و حقوق فردی است. منتقدان بر این باورند که مفاد مجاز برای استثناها به دلیل امنیت ملی میتواند سو استفاده شود و حقوق بشر را در نام امنیت دولت به خطر بیندازد.
مزایا و معایب کنوانسیون هوش مصنوعی
مزایا:
– افزایش پاسخگویی: این معاهده به شهروندان اجازه میدهد تا به تصمیمات مرتبط با هوش مصنوعی اعتراض کنند و موجب افزایش پاسخگویی برای سیستمهای هوش مصنوعی میشود.
– همکاری بینالمللی: با درگیر کردن کشورهای متعدد، این معاهده همکاری را تقویت کرده و یک استاندارد جهانی برای حکمرانی هوش مصنوعی تعیین میکند.
– حفاظت از حقوق بشر: بر حفظ حقوق بنیادی در برابر فناوریهای در حال تحول سریع تأکید دارد.
معایب:
– چالشهای پیادهسازی: تنوع در نظامهای حقوقی و محیطهای نظارتی ممکن است پیادهسازی یکنواخت را در کشورهای امضاءکننده دشوار کند.
– نگرانیها درباره خفهکردن نوآوری: برخی از ذینفعان صنعتی نگرانند که مقررات سختگیرانه ممکن است نوآوری را محدود کرده و مزایای بالقوه فناوریهای هوش مصنوعی را کم کند.
– پتانسیل تفسیر نادرست: زبان گسترده در این معاهده میتواند منجر به تفسیرهای متفاوتی شود که ممکن است کارآیی آن را تحت تأثیر قرار دهد.
کنوانسیون هوش مصنوعی نمایانگر گامی مهم به سوی توسعه و بهکارگیری مسئولانه هوش مصنوعی است. با بررسی پیامدهای اخلاقی فناوریهای هوش مصنوعی، این معاهده یک پیشگام قابل توجه برای توافقات بینالمللی در آینده به شمار میرود.
برای بینشها و بهروزرسانیهای بیشتر در مورد قوانین هوش مصنوعی، به شورای اروپا مراجعه کنید.