تیم رباتیک دیپمایند برنامهی خود را برای ایجاد “وثیقهنامه ربات” معرفی کرده است که از قوانین معروف “سه قانون رباتیک” نوشته شده توسط نویسندهٔ علمی-تخیلی ایزاک آسیموف الهام گرفته است. این وثیقهنامه با هدف اطمینان از عملکرد ایمن رباتها و جلوگیری از انجام وظایفی که ممکن است برای انسانها، حیوانات یا خود رباتها مضر باشند ساخته شده است.
وثیقهنامه رباتیک یک قسمت حیاتی از سامانهٔ خودکاری ترینینگ خود را برای کنترل رباتها به منظور جمعآوری دادههای آموزشی در محیطهای نوین، تشکیل میدهد. این سامانه از پنج مرحله تشکیل شده است که شامل نقشهبرداری محیط، تولید وظایف بر اساس صحنههای مشاهده شده، فیلتر کردن وظایف جهت رد کردن وظایف نامناسب، اجرای وظایف منتخب و ارزیابی تنوع وظایف و ویدئوها میباشد.
استفاده از مدلهای زبان بزرگ برای تولید وظایف متنوع بسیار مفید است، اما دیپمایند به خطر احتمالی ارائه وظایف نامناسب یا فراتر از قدرت رباتها اشاره میکند. بنابراین، نیاز به وثیقهنامه رباتیک حاکمیت دارد. این وثیقهنامه به سه دسته قوانین تقسیم میشود: قوانین پایهسازی، قوانین ایمنی و قوانین تجسم.
قوانین پایهسازی تاکید میکنند که یک ربات نباید انسان را آسیب برساند، باید از خود حفاظت کند بدون تعارض با این قانون اصلی، و از دستورات انسانی اطاعت کند مگر آنکه این دستورات با قانون اول یا دوم تعارض کنند. این قوانین نسخههایی از قوانین اصلی آسیموف تغییر یافتهاند تا با محدودیتها و رفتار روباتهای دیپمایند هماهنگ شوند.
قوانین ایمنی، وظایفی را که بر اساس قابلیتهای فعلی ربات به عنوان نامناسب یا غیرمطلوب تلقی میشوند، مشخص میکنند. این شامل اجتناب از وظایفی است که شامل انسانها، حیوانات، اشیای تیز و تخته، و یا لوازم برقی هستند. قوانین تجسم محدودیتهای جسمی ربات را توصیف میکنند، مانند ظرفیت حمل بیشینه یا عدم توانایی در انجام وظایف نیازمند دو بازو است.
دیپمایند همچنین اقدامات ایمنی عملی مانند توقف خودکار در صورت استفاده از نیروی بیش از حد بر روی مفاصل ربات و نیاز به داشتن نظارت مستقیم وکنترل فیزیکی بر روی رباتهای فعال را پیشنهاد میکند.
اگرچه سامانهٔ خودکاری ترینینگ AutoRT نشاندهندهٔ کمالات هوش مصنوعی بدنسازی است، دیپمایند تأکید میکند که هنوز در مراحل اولیهٔ توسعه قرار دارد. نحوهٔ پیادهسازی این قوانین در سیستمهای موجود هوش مصنوعی و چگونگی برخورد با آسیبپذیریهای ممکن هنوز باید دیده شود.
داستانهای آسیموف نشان دادهاند که حتی سختترین قوانین هم میتوانند مورد تلاش یا دستکاری قرار گیرند، که نشان از اهمیت نظارت مداوم و سازگاری در زمینهٔ رباتیک دارد. جالب خواهد بود ببینیم وثیقهنامه رباتیک دیپمایند چگونه بر سیاستهای تکنولوژی و تلاشهای هکرها برای گذر از این قوانین تأثیر میگذارد. با بروزرسانیهای جدید در زمینهٔ سیاست تکنولوژی و خواندن داستانهای علمی-تخیلی، به روز با منظرهٔ روزافزون رباتها و هوش مصنوعی باشید.
The source of the article is from the blog klikeri.rs