دیدگاه‌های مورد اختلاف در اخلاقیات هوش مصنوعی در OpenAI ظاهر می‌شود
در یک رویداد اخیر که توجه به تنش بین پیشرفت و احتیاط در صنعت فناوری را مورد توجه قرار می‌دهد، ژان لکون از OpenAI، یک سازمان معروف تحقیقاتی در حوزه هوش مصنوعی مستقل، خارج شد. لکون به رهبری یک تیم متمرکز بر کاهش خطرات مرتبط با ایجاد هوش مصنوعی عمومی با قابلیت‌های برابر یا بیشتر از انسان‌ها می‌پرداخت.
لکون به طور روزافزون مشتاقانه از عدم انطباق با مدیریت OpenAI در مورد اولویت‌های شرکت و نگرانی‌هایش در مورد مسیری که شرکت در این زمینه دنبال می‌کند، نگران شده بود. او باور داشت که بخش قابل توجهی از منابع آنها باید به اطمینان از اینکه مدل‌های AGI آتی ایمن و جامعه‌پذیر باشند اختصاص داده شود و نگران مسیری که شرکت در این خصوص دنبال می‌کند بود.
اهمیت ایمنی هوش مصنوعی در مقابل نوآوری‌های دیدنی
لکون OpenAI را انتقاد کرد و اشاره کرد که به نظر می‌رسد فرهنگ ایمنی یک‌بار معتبر به جذابیت توسعه‌های محصولات دیدنی می‌پردازد و فرآیندهای امنیتی حیاتی را به پس زمینه می‌اندازد. او این پیام را از طریق رسانه‌های اجتماعی به اشتراک گذاشت و ضرورت مشارکت جدی با پیامدهای محتمل AGI را تاکید کرد.
فرهنگ معمولی در دره سیلیکون
در مورد AGI و تأثیرات جامعه اطلاعات بیشتری نیاز است که با آشکار شدن سبک زندگی هادی برخی از شاهان صنعتی آن منطقه روبرو هستیم. گزارش‌هایی از جشن‌های گرانبها و مصرف مواد هلوسینوژن نور می‌اندازند نگرانی خاص در داخل بخشی از جوانمردان صنعتی را به روی میزها و صداقت بحران‌زایی به نحوی زندگی اجتماعی داخل آن زمینه نمایندگی کند، که ممکن است روی گفتگوی مهم اطراف ایمنی هوش مصنوعی حداکثر پوشد.
با وجود وضعیت بیگانه‌ای که در آن قرار دارد، سونیا جوزف، یک متخصص یادگیری ماشین از دانشگاه پرینستون، نگاهی به مجموعه شخصی مبهم دهانه‌های ارتباطی سیلیکون ولیو ارائه داد که شخصیت‌ها و سیاست‌های تکنولوژیک تأثیرگذار به یکدیگر می‌رسند. بینش‌های او به یک بدبیاری سیستمی گسترده هدایت می‌کند که ممکن است بر تیم‌های توسعه هوش مصنوعی به ویژه اما نه اکثراً آنها در OpenAI اثر بگذارد.
همانگونه که تلاش برای توسعه AGI گسترده‌تر می‌شود، اجتماع تکنولوژی در معرض یک مسیر تقاطعی قرار دارد، توازن بین تلاش‌های شکست‌های فکری با ضرورت حفظ آینده انسانی را برقرار می‌کند.
سوالات مهم در هدایت آبهای اخلاقی هوش مصنوعی پیشرفته
چه ملاحظات اخلاقی باید در توسعه AGI مورد نظر باشند؟
اندیشیده اخلاقی در توسعه AGI شامل اطمینان از اینکه آن ارزش‌های انسانی را رعایت می‌کند، به حقوق حریم خصوصی تجاوز نمی‌کند، ش�…