OpenAI یک رویکرد فعال در برابر نگرانی‌ها درباره ایمنی و استفاده اخلاقی هوش مصنوعی در میان نوجوانان و خانواده‌ها دارد. در یک اعلام اخیر، این شرکت شراکت خود را با Common Sense Media، یک سازمان غیرانتفاعی که رسانه‌ها و فناوری را برای کودکان ارزیابی می‌کند، برای تدوین رهنمودها و محتوای آموزشی اعلام کرد.
به تحت این همکاری، OpenAI با Common Sense Media در نزدیکی همکاری خواهد کرد تا چت‌بازهای سازگار با استانداردهای ارزیابی Common Sense Media را در فروشگاه GPT استور، بازار OpenAI، ایجاد کند. هدف این است که ابزارهای قدرت‌بخش شده توسط هوش مصنوعی را که با استانداردهای رتبه‌بندی و ارزیابی Common Sense Media سازگار هستند، جمع و جور کنیم تا والدین و معلمان بتوانند به این برنامه‌ها اعتماد کنند.
صمیمیت سام آلتمن، مدیرعامل OpenAI، در خصوص تأثیر مثبتی که هوش مصنوعی بر خانواده‌ها و نوجوانان می‌گذارد و ابراز اطمینان از اینکه شراکت با Common Sense Media تدابیر ایمنی ابزارهای OpenAI را تقویت خواهد کرد، تأکید شده است. این شرکت اهمیت ایجاد اعتماد و اطمینان در والدین را که ممکن است دانش محدودی درباره ابزارهای هوش مصنوعی نسبت به نسل‌های جوان‌تر داشته باشند، تأیید کرده است.
این همکاری در حالی صورت می‌گیرد که OpenAI به چارچوب Common Sense برای ارزیابی ایمنی، شفافیت و استفاده اخلاقی از محصولات هوش مصنوعی می‌پیوندد. چارچوب Common Sense Media به دنبال ارائه برچسب تغذیه برای برنامه‌های قدرت‌بخش شده توسط هوش مصنوعی است که نوری بر روی زمینه استفاده آنها و مزایا و زیانهای احتمالی آنها پاشیده شود.
هدف از شراکت بین Common Sense Media و OpenAI، آموزش خانواده‌ها و معلمان درباره استفاده ایمن و مسئولانه از ابزارهای هوش مصنوعی، شامل چت‌باز محبوب OpenAI، ChatGPT است. از طریق ترویج آگاهی و درک، هر دو سازمان امیدوارند که از بروز هرگونه عواقب منفی غیرمنتظره ناشی از استفاده از فناوری‌های نوظهور جلوگیری کنند.
همانطور که OpenAI در مورد تأثیر برنامه‌های قدرت‌بخش شده توسط GenAI خود با فشار از سوی نظارتگران روبرو است، این شرکت تلاش می‌کند تا نگرانی‌ها درباره جمع‌آوری داده‌ها، اظهارات نادرست و شیوه‌های برخورد با اطلاعات را بررسی کند. OpenAI تأکید می‌کند که اگرچه ابزارهای قدرت‌بخش شده توسط GenAI ممکن است اطلاعات نادرست و تعصباتی ارائه دهند، اما در حال بهبود آنها هستند.
جالب است بدانید که کودکان و نوجوانان چندانه به ابزارهای هوش مصنوعی مانند ChatGPT برای کمک در تحصیلات و همچنین حمایت هیجانی تمایل پیدا کرده‌اند. طبق نظرسنجی انجام شده توسط مرکز دموکراسی و فناوری، تعداد قابل توجهی از کودکان از ChatGPT برای کمک در اضطراب، مشکلات سلامت روان، مشکلات دوستی و مشکلات خانوادگی استفاده کرده‌اند.
به طور کلی، همکاری بین OpenAI و Common Sense Media نشان دهنده تلاش همکارانه ای است برای اطمینان حاصل کردن از ثمره هوش مصنوعی برای نوجوانان و خانواده‌ها و در عین حال کمینه ساختن خطرات احتمالی است. از طریق تأمین محتوای مسئولانه و آموزش، OpenAI قصد دارد اعتماد والدین و سیاستگذاران را به خود جلب کند و تعهد خود در ترویج نتایج مثبت با پیش‌رفت‌های هوش مصنوعی را نشان دهد.
سؤالات متداول:
1.شراکت OpenAI با Common Sense Media چیست؟
OpenAI با یک سازمان غیرانتفاعی به نام Common Sense Media همکاری کرده است تا راهنماها و مواد آموزشی برای استفاده ایمن و اخلاقی از هوش مصنوعی در بین نوجوانان و خانواده‌ها تدوین کند. هدف از این همکاری ایجاد چت‌بازهای (برنامه‌های بحث رباتی) توانایی سازگار با استانداردهای ارزیابی Common Sense Media است.
2. هدف از این همکاری چیست؟
هدف از این همکاری اطمینان حاصل کردن از توانایی والدین و معلمان در اعتماد به ابزارهای قدرت‌بخش شده توسط هوش مصنوعی است، که مطابق با تدابیر ایمنی Common Sense Media هستند. همچنین هدف از این همکاری توسیع آگاهی و آموزش خانواده‌ها و معلمان درباره استفاده مسئولانه از ابزارهای هوش مصنوعی و جلوگیری از وقوع هرگونه عواقب منفی غیرمنتظره است.
3. چه چیزهایی در چارچوب Common Sense Media برای ارزیابی محصولات هوش مصنوعی وجود دارد؟
چارچوب Common Sense Media برچسب تغذیه برای برنامه‌های قدرت‌بخش شده توسط هوش مصنوعی ارائه می‌دهد و روشن نمی‌کند که این برنامه‌ها در چه شرایطی و با چه مزایا و زیانهایی استفاده می‌شوند. این چارچوب بررسی ایمنی، شفافیت و استفاده اخلاقی از محصولات هوش مصنوعی را مورد توجه قرار می‌دهد.
4. چه برخی از نگرانی‌هایی هستند که OpenAI در حال برطرف کردن آنها است؟
OpenAI در حال برطرف کردن نگرانی‌های مربوط به جمع‌آوری داده‌ها، اظهارات نادرست و روش‌های برخورد با اطلاعات است. آنها تأکید می‌کنند که در حال تلاش برای بهبود این جنبه‌ها بوده و اقرار می‌کنند که اگرچه ابزارهای قدرت‌بخش شده توسط GenAI ممکن است اطلاعات نادرست و تعصباتی را ارائه دهند.
5. کودکان و نوجوانان چگونه از ابزارهای هوش مصنوعی مانند ChatGPT استفاده می‌کنند؟
طبق یک نظرسنجی انجام شده توسط مرکز دموکراسی و فناوری، کودکان و نوجوانان از ابزارهای هوش مصنوعی مانند ChatGPT برای کمک در تحصیلات و حمایت هیجانی استفاده می‌کنند. آنها درخواست کمک برای اضطراب، مشکلات سلامت روان، مشکلات دوستی و مشکلات خانوادگی دارند.
معنای برخی اصطلاحات و لغات کلیدی:
– GPT: اشاره به برنامه‌های چت‌باز قدرت‌بخش شده توسط پیش‌آموزهای ترانسفورمرهای بازنوشت شده است که شامل ChatGPT Open
The source of the article is from the blog coletivometranca.com.br