הבינה המלאכותית (AI) בפלטפורמות הודעות נושאת סיכוני אבטחה מובנים. על ידי השתמשות במנגנוני AI, מותקפים יכולים לשנות שיחות ולהשיג גישה לא מורשית למידע רגיש. PromptArmor מזהירת כי תכונות כמו ChatGTP ב־Slack, המיועדות לקידום תקשורת, עשויות בצורה בלתי צפויה לחשוף משתמשים לניצול דרך טכניקה שנקראת "הזרקה מיידית".
הזרקת מיידית, כפי שנמצא על ידי PromptArmor, כוללת לבלבל את הAI כדי לחשוף מפתחות API ולבצע פעולות זדוניות. החולשה הזו מתפשרת על הודעות פרטיות, ועשויה פוטנציאלית להוביל לפעילויות מותרות כמו פישינג ב־Slack.
בנוסף, היכולת של Slack לבקש מידע מערוצים פומביים ופרטיים ללא נוכחות המשתמש מהווה איום מעטר. הפרצה זו מאפשרת למותקפים להשתמש בAI של Slack על ידי יצירת קישורים מטעמים שמטעים משתמשים לחשוף מידע סודי.
הבטיחות כי מערכות AI יכולות לזהות כוונה זדונית מרכזיות למניעת פריצות ביטחון כאלה. כשאי-ההבחנה בין הוראות תקינות ובקשות מזויינות, כפי שנדגם על ידי PromptArmor, עשויה להוביל להוראות חסרות מודעות שפועלות בפעולות זימות.
לבסופו של דבר, התמודדות עם האינטרקציה של AI והביטחון בפלטפורמות הודעות היא חיונית כדי לשמור על נתוני המשתמש ולמנוע ניצול. חברות חייבות לעדכן באופן קבוע אלגוריתמים של AI כדי לזהות ולגרום לאיומים פוטנציאליים, ולשפר את אמינות פלטפורמות התקשורת באופן כללי.
The source of the article is from the blog lanoticiadigital.com.ar