رهبر هوش مصنوعی جهانی OpenAI گفتگویی درباره ایجاد محتوای بالغ با استفاده از تکنولوژی هوش مصنوعی خود آغاز کرده است، که برای مدل‌های زبان پیشرفته از قبیل چت‌جی‌پی‌تی، مولد تصویر DALL-E و مولد ویدیویی Sora شناخته می‌شود. این پلتفرم‌ها به‌طور معمول تولید محتوا توسط کاربران که در برگیرنده حوزه‌های اروتیک و مواد پورنوگرافی به شمار می‌آیند را محدود کرده‌اند.
سازمان یک سند برای جمع‌آوری بازخورد درباره سیاست‌های امنیتی هوش مصنوعی خود منتشر کرده است، به معنی اینکه آنها در نظر دارند تولید محتوای NSFW را در نظر بگیرند. این اصطلاح معمولاً موادی را که مناسب محل کار نیستند، شامل مواد اروتیک، خشن یا واضح می‌کند.
در یک گفتگو با NPR، رهبر محصول OpenAI، جوآن جانگ انتقال داد که این شرکت قصد دارد بحثی درباره ضرورت حفظ قراردادن ممنوعیت بر روی متون اروتیک و تصاویری حاوی عریانی ایجاد کند. OpenAI پیشنهاد می‌دهد که ممکن است موارد معقولی وجود داشته باشد که محتوای چنین مضوعاتی برای کاربران اهمیت داشته باشد.
OpenAI به در نظر گرفتن سن کاربران در نقد خود تعهد کرده است و امکان اجازه دادن به استفاده از فیلم‌های تقلبی که از شباهت افراد واقعی بهره برده‌اند را به طور قاطع انکار می‌کند. در سال‌های اخیر، این نوع فناوری موجب سوءاستفاده شده است، شامل تولید محتوای پورنوگرافی مشتمل بر افراد مشهور و ممکن است به راحتی برای آزار و اذیت در محیط‌های دیگر سلاحی شود.
به علاوه، جانگ بر این تأکید می‌کند که بررسی این مسئله به این معنی نیست که OpenAI به سمت تولید محتوای پورنوگرافی توسط هوش مصنوعی حرکت می‌کند. نتیجه این بررسی بیشتر به‌طور قابل توجهی از بازخوردی که OpenAI از سند منتشرشده دریافت می‌کند و از توانایی تعیین دستورالعمل‌هایی که از سویی جلوی سوءاستفاده را می‌گیرد و اطمینان از مسئولیت را می‌کنند، وابسته خواهد بود.
سوالات مهم، چالش‌ها و بحث‌ها:
– OpenAI چگونه تضمین می‌کند که هر محتوای NSFW تولید شده توسط هوش مصنوعی اخلاقی و با رضایت باشد؟ چالش اصلی تعیین راهنماهای واضحی برای تعریف مرزهای اخلاقی و رضایت است. این موضوع به خاطر این است که مدل‌های فعلی هوش مصنوعی توانایی تشخیص رضایت را ندارند و ممکن است تصاویر یا متنی بر اساس شخصیت‌های عمومی یا افرادی را ایجاد کنند که مجوز خود را نداده‌اند.
– OpenAI چه مکانیزم‌هایی را برای جلوگیری از تولید محتوای غیرقانونی یا مضری توسط هوش مصنوعی در نظر می‌گیرد؟ OpenAI باید استراتژی‌ها و فناوری‌های قوی مدیریت محتوا را پیاده‌سازی کند تا از گسترش مواد غیرقانونی مانند فیلم‌های کودکانه، تصاویر غیررضایت‌بخش یا محتوایی که به ترویج خشونت می‌پردازد، جلوگیری کند.
– چگونه می‌توان بیش فرضیات در محتوای بزدای NSFW تولید شده توسط هوش مصنوعی را در نظر گرفت؟ سیستم‌های هوش مصنوعی ممکن است بایاس‌های اجتماعی را که در داده‌های آموزشی آنها حضور دارند، تداوم دهند. وجود خطری وجود دارد که محتوای بلغزنده توسط هوش مصنوعی بتواند نمایش‌های منفی یا نمایش‌های نابجا از جنسیت، نژاد و جنسیت افزایش دهد.
– می‌تواند محتوای بزدای NSFW تولید شده توسط هوش مصنوعی به مشکلات اجتماعی مانند جسارت شخصی انسان‌ها کمک کند؟ بحثی به این موضوع وجود دارد که درباره تأثیر اجتماعی محتوای بزدای، و دور که هوش مصنوعی ممکن است در افزایش آن نقش داشته باشد، اندیشیده می‌شود.
مزایا:
– محتوای تولید شده توسط هوش مصنوعی ممکن است یک جایگزین ایمن برای پورنوگرافی انجام شده توسط انسان باشد، با کاهش سو استفاده مرتبط با صنعت سرگرمی بزرگسالان.
– برای بزرگسالانی که موافقت کرده‌اند، این می‌تواند به طرق مختلفی از جمله انجام تخیلات مختلف به یک شکلی که شامل افراد واقعی نباشد، کمک کند و با افزایش حفظ حریم خصوصی و رضایت در مصرف محتوای بزدای، پیشرفت کند.
معایب:
– وجود احتمالی دارد که محتوای تولید شده توسط هوش مصنوعی خطوط رضایت را مبگلل کرده و منجر به فراهمی محتواهای شخصی‌نشده باشد.
– استفاده از هوش مصنوعی در این جنبه ممکن است رفتارهای جنسی بیش‌افزایی یا غیر واقع‌گرایانه را عادی سازد که به شکل‌دادن درک‌های خمیده درباره صمیمیت و رضایت در روابط واقعی منجر شود.
پیوندهای مرتبط پیشنهادی:
برای اطلاعات بیشتر درباره ابتکارات و پروژه‌های OpenAI، می‌توانید به صفحه اصلی OpenAI به آدرس صفحه اصلی OpenAI مراجعه کنید. لطفاً به یاد داشته باشید که این پیوند الزاماً شامل اطلاعات خاصی در مورد موضوع مورد بحث نیست، بلکه باعث درک کار اصلی و اخلاق شرکت می‌شود.