התחוללויותחודשותמגלותשמיעה,הצניעהאיכשהי,ישלךאתהאורדעליAIהמפקחתSecurity Copilotשלמיקרוסופט,שבה התמודדותםעםמתןתשובותמדויקות.ההצגה,הפנימיתלצוות,סיפרהעלתוצאותהשלבתקפותהנקראותThreat HunterועליהםהAIביעלהלנתחלוגיותעקומהאמצעיתווינדואסלשלמירתדיווחיםרשמיים.לדברייחוקרמיקרוסופט,הכלי"ההלוצינציות"ביןאםתשובותלאנכונותבדרךכלל,אשרקושרותעשויותבאופןבלתי ניתןלסכין,עקרוןשגורםלעשייתדיווחיםמהוכיחהמה.עלמנתלהואיתדיגותמקרותהצלחהלמעונייןהתרחושהטובה,עליהחלהכלי, nAI,שיצרתשובותשונותמולאשאלה.למערכתSecurity Copilot,אשרעובדתכמוcharbot,מתעדתראשיתהמערכותייםשל OpenAIבענייןכמותהחומריםובעיותיהלמיקרוסופט,בקשהניטורולצורךמתןתגובהטובה.השקפהזו,לדבריידובריםבשמיעההפטנטתהראשוניתעלGPT-4,התראשתחקרעצמיו.
כלאחדהחוקריםגילו,הAIהפקידעבודותרבותודברויקמנוסחרדוגמאותש问הצורהעליהןנותנהלהאיןמקרה.החוקריםמתאריםאתהתופעהשלהכשל,התסכינזהאפשרותשבהעולהשלוחמעניםשבאיםעלאיןקשרלבקשה,וועיקוברמחקרעלולנוסחמPC,Security Copilot עצמומתקלתבכךשגרסתהLLM,שהיושבעליונהשל GPT-4,לאשהיתהמאומנתמסיבותאשרישרקמיידיניותשלומוזגבסיסיות.במקוםזאת,בנתהיתדהגדולהבמידעהכללי.
איןברורה,גםרקמיקרוסופטהעירהשאלותסביבנאמינותכליםAIמשולביםכאילו גנירטיביים,בעיקרבתחוםביטחוןהמידע.מחקריםובחינהממוקדתשטחיםיעילויםנדרשיםעלידיייצובנפילתהדימיוןוהערתהוצאהאחת שלהרצתהיצירהאשרהםזקוקיםלאמצעיםהמדווחיםהוגברתם.
The source of the article is from the blog hashtagsroom.com