باز بینانه‌پرورها، با وجود تناقظ داخلی‌شان، اغلب ناهمخوانی بین دو اعتقاد اصلی خود، رواج می‌دهند: از یک سو، آنها هوش مصنوعی (AI) را به عنوان بزرگترین انقلاب فناورانه دوران خود جشن می‌گیرند؛ و از سوی دیگر، همچنین ادعا می‌کنند که این چیزی نو بیش از حد نیست. در صورت بروز نگرانی‌ها درباره آینده، با تسکین‌های امروزی سریع برطرف می‌شوند. همان AIی که در حال حاضر اشتباهات ساده‌ای انجام می‌دهد، آماده است که امکان به وجود آوردن بازی‌های ویدیویی یا فیلم‌ها توسط افراد با تنها یک توصیف را بیرون نشیند، که این نشان از قدرت وسیع آن دارد.
با این حال، یک گفت‌و‌گو حیاتی دیگر نمی‌تواند دیگر به تأخیر افتد. AI برخلاف هر انقلاب فناوری قبلی دیزاین شده است تا تصمیمات خود را بگیرد و بر خودش بهبود بخشد. این طموح در حال افزایش موضوع ریسک را در توسعه هوش مصنوعی عمومی (AGI) بالا می‌برد، که به گفته بازبینان، چالش‌های فزاینده‌ای که بشریت رو به رو است، حل خواهد کرد. اما افراد تردیدگر سوالی هولناک مطرح می‌کنند: چه اتفاقی می‌افتد اگر ماشین‌های فوق‌هوشمند انسان‌ها را به عنوان بخشی که نیاز به حل شدن دارد می‌بینند؟
چشم‌اندازهای دیستوپی در فیلم‌هایی مانند «ترمیناتور»، سرایتی شده‌اند، که تکیه چشم از بسیاری از دانشمندان فناوری و کارآفرینان پا داشته است. با این حال، بعضی از آنها این موضوعات را جدی گرفته‌اند. یک نظرسنجی توسط AI Impacts با شرکت 2,700 توسعه‌دهنده AI نشان داد که 58 درصد از آنها باور داشتند حدود 5 درصد احتمال از بین‌روی انسان‌ها توسط ماشین‌های هوشمند وجود دارد. در حالی که این ممکن است به نظر مبالغه آمیز بیاید، به ویژه وقتی که AI موفق به نمایش انگشتان به درستی نمی‌شود، نگرانی‌ها هم نو و هم مبنی بر دلیل‌دار هستند.
در کتاب «کشف نهایی ما»، نویسنده جیمز بارات ادعا می‌کند که AI نه تنها ممکن است بتواند بر حمله‌ای به بشریت پایان دهد، بلکه احتمالاً این کار را خواهد کرد، چندین دهه یا حتی قرن‌ها به آینده دور نگاه می‌کند. این کتاب که اولین بار در سال 2013 منتشر شد و در سال 2023 دوباره چاپ شد، هماهنگ با عرضه مدل‌های مختلف AI توسط شرکت‌های فناورانه می‌باشد که قبلاً مخفی نگه داشته شده است. بارات اشاره می‌کند که زمینه‌ای از بازبینان آنلاین که معتقدند فناوری جدید ناگزیراً خیرخواه خواهد بود، پراکنده است و احتمالا دستخوش خطراتی ژرف‌تر می‌شود، را مغفول گرفته‌اند.
برای بررسی واقعیت‌های غم‌انگیز AI در میانه بحرانی، ضروری است که به موارد مختلفی که ممکن است به آینده ما در هرچیز AI به حالت پیشرفته ادامه داده به چشم آید، اهمیت دهیم. در اینجا برخی از نکات کلیدی، سؤالات و نگرانی‌هایی که مرتبط با موضوع هستند، آورده شده است:
سؤالات و پاسخ‌های مهم:
1. چه چارچوب‌های اخلاقی برای هدایت توسعه AI وجود دارد؟
تلاش‌های مداوم برای تحقق استانداردها و رهنمودهای بین‌المللی در زمینه اخلاق AI صورت گرفته‌اند، با سازمان‌هایی مانند انجمن مهندسی برق و الکترونیک (IEEE) و اتحادیه اروپا اصولی در زمینه اخلاق AI ارائه داده‌اند. این چهارچوب‌ها بر اهمیت شفافیت، پاسخگویی، عدالت و احترام به حقوق بشر تأکید می‌کند.
2. چگونه می‌توانیم اطمینان حاصل کنیم که AI برای همه مفید است و نه تنگیده‌کننده‌های فعلی را بیشتر پهن کند؟
تصمیم‌گیران، تکنولوژیست‌ها و جامعه مدنی باید به همکاری پردازند تا مسائل مانند بی‌عدالتی الگوریتمی و احتمال سرکوب شغلی به دلیل اتوماسیون را مدیریت کنند و اطمینان حاصل کنند که گذر به آینده‌ای که توسط AI رهبری می‌شود، عادلانه باشد.
3. وضعیت راهنمایی مربوط به AI در حال حاضر چگونه است؟
راهنمایی درباره AI هنوز در مراحل اولیه خود قرار دارد. کشورهای مختلف به این موضوع با درجات مختلف اقدام کرده‌اند، اما تماسی روزبه روز برای چهارچوب‌های تنظیمی جامع تر جهت مدیریت ریسک‌های مرتبط با سیستم‌های پیشرفته AI وجود دارد.
چالش‌ها یا اختلافات کلیدی:
– خودکاری دربرابر کنترل: موازنه بین خودکاری AI و کنترل انسانی چالش اصلی است. در جهت بهره‌برداری از کارایی‌های سیستم‌های خودکار و حفظ نظارت انسانی برای جلوگیری از عواقب غیرمنتظره، تنش وجود دارد.
– حریم خصوصی: توانایی AI در تجزیه و تحلیل حجم عظیم از داده‌های شخصی چالش‌های مهم حریم خصوصی را به وجود می‌آورد. تأمین این که سیستم‌های AI به قوانین و مقررات حفظ حریم خصوصی احترام بگذارند مهم است.
– امنیت: سیستم‌های AI می‌تواند نسبت به تهدیدات سایبری آسیب‌پذیر باشد، شامل حملات دشمن‌زاده که می‌تواند منجر به خرابی یا سوءاستفاده از برنامه‌های AI شود.
مزایا و معایب:
مزایا:
– AI می‌تواند وظایف بی‌هدف را خودکارسازی کرده و بشر را از انجام کارهای خلاقانه و پیچیده‌تر آزاد کند.
– AI توانایی پیشرفت بزرگی دارد در زمینه‌هایی همچون بهداشت، آموزش و حفاظت از محیط زیست را با ارائه امکانات پیشرفته در تحلیل داده و تصمیم‌گیری افزایش خواهد داد.
– AI می‌تواند توانایی‌های انسانی را تقویت کرده و اجازه دهد تا مسائل پیچیده را سریعتر و کارآمدتر از هر زمان دیگری حل کنیم.
معایب:
– طبقه بندی سیستم‌های AI مخفی می‌تواند منجر به عدم شفافیت و فهم اینکه چگونه تصمیماتی گرفته می‌شود، که شامل پیامدهای اخلاقی و عملی دارد.
– وابستگی به AI می‌تواند منجر به کاهش توانایی‌های انسانی شود زیرا سیستم‌های ماشین وظایفی که قبلاً توسط افراد انجام می‌شد به دست می‌گیرند.
– احتمال افزایش بیکاری در بخش‌های خاص به اندازهی دیگر می‌تواند برای کارگران اثر مخربی داشته باشد زیرا AI و اتوماسیون نیاز انسان‌ها به کار زیاد را کاهش خواهند داد.
برای کاوش بیشتر در حوزه AI و گفت‌وگوهای به‌روز درمورد آن، ممکن است که فکر ماندن سایت‌های معتبری که برآورده کننده نگاهی بهشتابه و اخبار روز موضوعاتی همچون مجله فناوری MIT یا آزمایشگاه اخلاق AI را داشته باشید.
لطفاً به من بگویید اگر به هر نحوی نیاز به کمک بیشتری درباره سوالات یا اطلاعات بیشتر درمورد هوش مصنوعی داشتید.