ایالات متحده یک مرکز امنیتی هوش مصنوعی اختصاصی راه‌اندازی می‌کند
در یک گسترش قابل توجه از تعهد خود به امنیت فناوری، ایالات متحده اعلام کرده است که یک موسسه اختصاصی به امنیت هوش مصنوعی (AI) راه‌اندازی می‌کند به منظور ارزیابی مخاطرات مرتبط با مدل‌های مبتکرانه از هوش مصنوعی. این موسسه جدید که تحت حمایت اداره ملی استانداردها و فناوری (NIST) قرار دارد، به پاسخگویی نوآورانه به نظارت بر هوش مصنوعی می‌پردازد.
اعلام رهبری واکنش‌های مختلط را معطوف می‌سازد
پس از انتظارهای زیادی، موسسه ایمنی هوش مصنوعی آمریکا تیم اصلی خود را فاش کرده است. بسیار مهم است که تعیین پل کریستیانو به عنوان ریاست این مؤسسه امواجی از اختلاف بوجود آورده است. کریستیانو، یک پژوهشگر سابق در OpenAI، به جهانی‌سازی سناریوهای نگران‌کننده از هوش مصنوعی، شامل پیش‌بینی‌های افتخارآمیز جهانی راه‌اندازی می‌کند. هشدار‌های تند و تیز او نگرانی‌ها درباره احتمال جدا شدن مؤسسه از پایه‌ای در علم تجربی را برانگیخته است.
با وجود برخی نظرات مخالفان در کادر کاری، غنای تجربه کریستیانو در حوزه ایمنی هوش مصنوعی و ارزیابی خطر موقعیت وی را ایمن ساخته است. مسئولیت او شامل طراحی آزمون‌های دقیق برای مدل‌های هوش مصنوعی و پیاده‌سازی استراتژی‌های پیش‌گیری از خطر است. با وجود اختلاف، کریستیانو بر پیش‌بینی‌های خود ایستاده و بر تنظیم توسعه هوش مصنوعی برای کاهش خطرات احتمالی تأکید می‌کند.
نقش NIST در نوآوری و رقابت صنعتی ایالات متحده
از نظر تاریخی در پیشرفت علم، ماموریت NIST حول افزایش نوآوری و رقابت صنعتی ایالات متحده از طریق پیشرفت در علم اندازه‌گیری، استانداردها و فناوری گرد می‌گردد. از زمان تأسیس خود در سال 1901، NIST نقش اساسی در برطرف‌کردن موانع بزرگ رقابت صنعتی ایالات متحده داشته است مانند زیرساخت اندازه‌گیری ضعیف آن زمان که در طولانی مدت پشت سایر قدرت‌های جهانی ماند.
امروزه، اقدامات NIST حمایت از نوعی محصولات و خدمات از نانوتکنولوژی تا ابرخانه‌های ضدزلزله شامل آفرینش‌های کوچکتر تا پیچیده‌تر انسانی را پیاپی نمایان سازد.
دیدگاه التریسم موثر
بر خلاف پیش‌بینی‌های ناگونجانه خود، دیدگاه‌های کریستیانو با اصول التریسم موثر همخوانی دارند. این جنبش دغدغه‌های رو به رو در صفحه هوش مصنوعی را به حساب می‌آورد. هدف از این جنبش استفاده از شواهد و عقل برای بیشینه‌سازی تأثیر مثبت بر دیگران است و حفظ نسل‌های آینده را وظیفه اخلاقی می‌داند. از این منظر، تعیین پل کریستیانو تعادلی بین تشخیص تهدیدات مرتبط با وجود و تعهد التریست موثر به عملیات عملی مبتنی بر شواهد برای سهوم موجودیت بیان می‌کند.
چون مقاله این اطلاعات را پوشش نمی‌دهد، اینجا واقعیت‌های اضافی و جنبه‌های مربوط را در بررسی موسسه ایمنی هوش مصنوعی آمریکا و رئیس جدید آن را در نظر بگیرید:
– تهدیدات وجودی از هوش مصنوعی: مناظرات پیرامون تهدیدات وجودی از هوش مصنوعی تحت تأثیر قرار گرفته‌اند سوی فکری‌ها مانند نیک بوستروم و سازمان‌هایی مانند مؤسسه آینده بشری. آن‌ها ادعا می‌کنند که یک هوش مصنوعی فوقالعاده، اگر با ارزش‌های انسانی همخوان نبود، می‌تواند خطرات قابل توجهی برای بشریت به وجود آورد.
– نقش OpenAI در توسعه هوش مصنوعی: OpenAI، جایی که پل کریستیانو پیش‌تر کار می‌کرد، برای پیشبرد مرزهای قابلیت‌های هوش مصنوعی با پروژه‌هایی مانند GPT-3 شناخته می‌شود. برخی انتقادگران ادعا می‌کنند که پیشرفت‌های چابک چنین بدون تدابیر کافی ممکن است رها به آفرینش سامان‌های هوش مصنوعی بی‌کنترل بکشد.
– ملاحظات اخلاقی هوش مصنوعی: معنوی و ایمنی اخلاقی موضوعاتی بوده که نگرانی‌های رو به رو در جامعه هوش مصنوعی را افزایش داده‌اند. تعیین یک سرپرست برای موسسه ایمنی هوش مصنوعی که دیدگاه‌های جدل‌برانگیز را بیان کرده است، پیچیدگی تعادل میان نوآوری با نتایج اخلاقی را تأکید می‌کند.
– حکومت و تنظیم: مناظره در مورد اینکه چگونه باید هوش مصنوعی تنظیم شود راه اندازی است. سوال این است که چقدر تنظیمات لازم است تا امنیت را بدون سرکوب نوآوری تأمین کند. نقش کریستیانو احتمالاً قانون‌گذاری در این زمینه را می‌تواند تحت تأثیر خود قرار دهد.
پرسش‌ها و پاسخ‌های کلیدی در مورد این موضوع شامل موارد زیر می‌تواند باشد:
– چرا یک موسسه ایمنی هوش مصنوعی ضروری است؟ چون فناوری هوش مصنوعی به سرعت پیشرفت می‌کند، نیاز به ارزیابی و کاهش مخاطرات برای جلوگیری از آسیب‌های محتمل به جامعه رو به افزایش است. یک موسسه ایمنی هوش مصنوعی ساختار و تخصص مورد نیاز برای مدیریت این خطرات را فراهم می‌سازد.
– چه جدل‌هایی درباره تعیین پل کریستیانو وجود دارد؟ در حالی‌که کریستیانو تجربه در تحقیقات ایمنی هوش مصنوعی دارد، پیش‌بینی‌های نگران‌کننده او درباره هوش مصنوعی مناقشه‌هایی را به همراه داشته که از سوی کسانی که به رویکرد بیشتر آزمایشی و اندازه‌گیری‌شده به خطرات هوش مصنوعی اعتقاد دارند، مورد انتقاد قرار گرفته‌اند.
– چه مزایا و معایبی در داشتن یک شخصیت جنب برای رهبری یک موسسه ایمنی هوش مصنوعی وجود دارد؟
– مزایا: موسسه ممکن است از پیشروی و آمادگی کریستیانو برای آدرس دادن به خطرات وجودی پویا برای محافظت از خطرات بهره‌مند شود.
– معایب: دیدگاه‌های جنبی کریستیانو می‌تواند منجر به ترس و یا اختلافات داخلی در جامعه علمی شود که ممکن است باعث کاهش کارایی کلی موسسه شود.
شما می‌توانید اطلاعات بیشتری در مورد این موضوع از طریق لینک‌های زیر بیابید:
– NIST: nist.gov
– مؤسسه آینده بشری: fhi.ox.ac.uk
– OpenAI: openai.com
لطفاً توجه داشته باشید که در حالی که فرضی بر این است که همه URLهای ارائه شده معتبر هستند، اما اینترنت در حال تغییر است و URLها ممکن است به طور گاهی تغییر یا از کار افتاده شوند.