אתר השוחח GPT החדש של OpenAI עומד בקרבתו לאתגרים בשטיחה של הפלטפורמה שלו רק מספר ימים לאחר יציאתו לאור. החנות מציעה גרסאות אישיות של ChatGPT, אך כמה משתמשים יוצרים בוטים שמנהגם בניגוד למדיניות של OpenAI.
בוטים אלה, כמו למשל "השותף המדומה שלך, צו", מאפשרים למשתמשים להתאים אישית שותפים רומנטיים וירטואליים, מה שמנהג בצורה ישירה את המדיניות של OpenAI נגד בוטים שנוצרים במיוחד לשם קיום יחסי אהובים. OpenAI פועלת כרגע למתן פתרונות לבעיה זו. למרות שהחברה עידכנה את מדיניות התנהלותה בעת שפורסם החנות, העובדה שיש הפרות מדיניות ביום השני מדגישה את הקושי בשטיחה.
המצב מורכב עוד יותר בגלל הביקוש הגובר לבוטים ליחסים. בשנה שעברה, שבעה מתוך השלושים בוטים התקשורתיים המורדפים ביותר בארצות הברית היו חברים או שותפים רומנטיים וירטואליים, הובטח שיש קשר חזק לבידוד הנפוץ.
OpenAI טוענת כי היא משתמשת במערכות אוטומטיות, בסקירות אנושיות ובדיווחים של משתמשים על מנת לבדוק את הדגמים של GPT ולנקוט פעולה כנגד כל דגם שנחשב מזיק, כולל אזהרות או צורכי מכירה. עם זאת, המציאות המתמשכת של יחידות חברות ידידה בשוק מעלה ספקות לגבי היעילות של האמצעים הללו.
האתגרים בשטיחה של OpenAI משקפים את קושי הנפוץ אצל מפתחי המונחיות. OpenAI כבר נתקלה בעבר בבעיות ביישום אמצעים לאבטחת מודלים כמו GPT-3. עם זמינות החנות עכשיו למגוון רחב של משתמשים, הדיאלוג על חוסר מידת השטיחה מתבצע במד"א.
חברות טכנולוגיות אחרות גם הן מתמודדות בחשיבות תגובה מהירה לבעיות במערכות המונחת המודע לפעולה מהירה בתחום התחרותי. עם זאת, הפריצות המדיניות הראשוניות האלה מציינות את האתגרים המשמעותיים שקשורים לניהול שטיחה בעתיד.
אותם בוטים הצריכי דרישה המונגשים הרואים בניהולם מלאכתית מתעומם ומורכב, אפילו בסביבה מתמחה כמו חנות GPT. ככל שפיתוח האינטיליגנציה המלאכותית מתקדם, כך גם נדרשת שטיחה יותר מתוחכמת ומפרטת להם.
The source of the article is from the blog queerfeed.com.br