کارمندان از شرکت‌های برتر هوش مصنوعی OpenAI و Google DeepMind به خطرهای خفاش انگیز مرتبط با هوش مصنوعی پیشرفته هشدار داده‌اند. نامه‌ای که به تازگی فاش شده، بینش‌های 13 نفر از کارمندان، بیشتری از آن‌ها در حال حاضر در این شرکت‌ها فعال هستند، را بیان می‌کند و توصیه می‌دهد که بیش از حفظ منافع مالی بر آسایش عمومی هشدار داده شود.
نامه که با دقت تدوین شده، از طبیعت قدرتمند سیستم‌های هوش مصنوعی و توانایی آن‌ها بر افزایش نابرابری‌های موجود، اطلاعات را جابه‌جا کند، عموم را فریب دهد و حتی ممکن است به از دست دادن کنترل انسان بر سیستم‌های هوش مصنوعی خودکار منجر شود. این سناریو ممکن است به نتایج وخیمی برای بشر منجر شود.
واکنش به انتشار این نامه در “نیویورک تایمز”، یک سخنگو از OpenAI، لیندسی هلد، بر افتخار شرکت در سابقه خود برای ایجاد سیستم‌های هوش مصنوعی کارآمد و امن تأکید کرده و این شرکت نیاز به بحث‌های دقیقی را به علت اهمیت فناوری اعلام کرده و عزم خود را بیان کرده است که با دولت‌ها و جوامع مدنی برای رفع این چالش‌ها همکاری خواهد کرد.
اما Google DeepMind هنوز اظهارات خود را در مورد نگرانی‌های ارائه شده در نامه عمومی نکرده است و به درخواست تایم هم پاسخی نداده است. گزارش برجسته کرده که رفتار ساکت رهبران شرکت‌های هوش مصنوعی می‌تواند باعث نگهداشتن جامعه در تاریکی در مورد خطرات واقعی فناوری‌هایی که آن‌ها توسعه می‌دهند شود.
به علاوه، نامه برتری مواجه با کارمندان جاری و سابق را نشان می‌دهد که باور دارند شرکت‌های هوش مصنوعی اطلاعات مهم مربوط به ریسک را دارند. به دلیل وجود نیازی سختگیرانه به افشاگری به دولت‌ها، بیشتر از قابلیت‌های سیستم‌های هوش مصنوعی این شرکت‌ها بی‌اطلاع است. توافق‌نامه‌های عدم افشای اطلاعات، کارمندان را سرکوب می‌کند و آن‌ها را از بیان نگرانی‌هایشان بی‌صدا بازمی‌دارد. گروه ایجادکننده این نامه جدید بر ضرورت احساس مسئولیت‌پذیری عمومی تأکید کرده و اظهار می‌کند که کسانی که در داخل صنعت هستند ممکن است تنها آن‌ها باشند که بتوانند به واقعیت این شرکت‌ها را مسئولیت کنند.
موضوع هوش مصنوعی پیشرفته و تهدیدات احتمالی‌اش عریض است و عوامل متعددی در این رابطه دخیل هستند. در ادامه، چندین واقعیت مرتبط اضافی، سوالات کلیدی با پاسخ‌ها، چالش‌ها، اختلافات، مزایا و معایب مربوط به موضوع ذکر شده است.
وب‌سایت‌های سازمان‌های تمرکز کرده بر اخلاق و ایمنی فناوری هوش مصنوعی را بررسی کنید:
– موسسه آینده زندگی: futureoflife.org
– مرکز امنیتی نیوآمریکایی جدید (AI و امنیت ملی): cnas.org
– بنیاد حقوق دیجیتال (EFF) مربوط به حریم خصوصی دیجیتال: eff.org
– OpenAI، یکی از شرکت‌های اشاره شده در این متن: openai.com
The source of the article is from the blog elblog.pl