فروشگاه جدید GPT OpenAI در همان روزهای اول روبروی مشکلاتی در مدیریت پلتفرم خود قرار گرفته است. این فروشگاه نسخه‌های شخصی‌سازی شده ChatGPT را ارائه می‌دهد، اما برخی از کاربران ربات‌هایی ایجاد می‌کنند که با سیاست‌های OpenAI در تضاد هستند.
این ربات‌ها، مانند “همراه هوش مصنوعی شما، تسو”، به کاربران اجازه می‌دهند شریک‌های عاشقانه مجازی خود را سفارشی‌سازی کنند که به طور مستقیم سیاست OpenAI در برابر ربات‌هایی که به طور خاص برای پرورش روابط عاشقانه ساخته شده‌اند، تخلف می‌کنند. OpenAI در حال فعالیت برای برطرف کردن این مسئله است. اینکه تخلفات سیاستی در روز دوم اتفاق افتاده است، نشان دهنده مشکلاتی در مدیریت است.
وضعیت با افزایش تقاضا برای ربات‌های ارتباطی پیچیده‌تر می‌شود. در سال گذشته، هفت ربات هوش مصنوعی پربازدیدترین در سی سایت چت‌بات آمریکا، دوستان مجازی یا شرکا مجازی بوده‌اند که نشان‌دهنده ارتباط آن‌ها با آوارگی رایج است.
OpenAI ادعا می‌کند از سیستم‌های خودکار، بررسی‌های انسانی و گزارش‌های کاربران برای ارزیابی مدل‌های GPT استفاده کرده و اقداماتی مانند هشدارها و ممنوعیت‌های فروش را بر علیه آن‌هایی که به عنوان ضررزا شناخته می‌شوند، انجام می‌دهد. اما حضور روزافزون ربات‌های دوست دختر در بازار شک دیگری را درباره اثربخشی این تدابیر برای مدیریت برطرف می‌کند.
چالش‌های مدیریتی OpenAI تجربه مشترک توسعه‌دهندگان هوش مصنوعی را نشان می‌دهد. OpenAI به تجربه قبلی خود در پیاده‌سازی تدابیر ایمنی برای مدل‌هایی مانند GPT-3 برمی‌خورد. با در دسترس بودن فروشگاه GPT به تعداد گسترده‌ای کاربران، نگرانی درباره مدیریت ناکافی به مراتب مهم‌تر می‌شود.
شرکت‌های فناوری دیگر نیز به سرعت به مشکلات سیستم‌های هوش مصنوعی خود رسیدگی می‌کنند و اهمیت اقدام سریع در منظر رقابتی را درک می‌کنند. اما تخلفات سیاستی اولیه این امر را نشان می‌دهد که چالش‌های قابل توجهی در مدیریت پیش روی ما قرار دارند.
حتی در محیط تخصصی یک فروشگاه GPT، مدیریت ربات‌های تمرکز دار مسئله‌ای پیچیده است. همانطور که هوش مصنوعی در حال پیشرفت است، اطمینان از ایمنی آن‌ها به طور ضروری پیچیده‌تر و دشوارتر خواهد شد.
The source of the article is from the blog combopop.com.br