שיתוף פעולה לעתיד של AI בטוח: מובילים טכנולוגיים עולמיים מאתגרים סטנדרטים בטיחותיים בינלאומיים
בפרויקט חדשני, עסקאות טכנולוגיה מובילות מסין ומארצות הברית מתחברות יחד כדי ליסוד סטנדרטים בינלאומיים המיועדים לחיזוק אפליקציות בינה מלאכותית ומודלים גדולים של שפה (LLMs) נגד איומים סייבריים. Ant Group, Baidu ו-Tencent Holdings מסין משתפות פעולה עם ענקי טכנולוגיה גלובליים כמו OpenAI, מיקרוסופט ו-Nvidia. הקואליציה הזו הביאה שני מסמכי הנחיית מערכת מקיפים: אחד מתמקד באימות האבטחה של אפליקציות AI סינתטיות, והשני בשיטות להערכה של ביטחון ה-LLMs.
המתווהים הללו הם תגובה לפריחה מהירה של טכנולוגיות AI, כולל ChatGPT של OpenAI ו-Copilot של מיקרוסופט. ענקי עסקים כמו Baidu, Tencent ו-Ant Group פיתחו כל אחד את שיחות הצ'אט המתקדמות שלהם ומודלי השפה לשימושים שונים, מעידים על התלות הגוברת של השוק בטכנולוגיות אלו.
מיוצרים על ידי צוות של מומחים מקונצרנים טכנולוגיים שונים כולל Nvidia ו-Meta Platforms, ובראשות ענקים כמו אמזון וגוגל, התקנים החדשים מספקים תבנית לבדיקה ואישור של מעמד הביטחון של אפליקציות GenAI. Ant Group תרמה באופן מיוחד עם 17 מעובדיה בינו מצרף את התקני ה-LLMs המדורגים, הכוללים אוסף של סימולציות התקפה להעריכת עמידותם.
כטכנולוגיות GenAI מתעלות לגבהים חדשים בשוק ובתחום המשתמש האישי, נביאי עניין תעשייתי דגשו על הכרחיות של שמירה על השקפת עין מפרעה זו. ה-CEO של OpenAI, סם אלטמן, הדגיש את עדיפות ההשקעה בתכני בטיחות מקיפים כאשר אפליקציות AI משתלבות יותר ויותר בחיינו היומיומיים.
בנוסף, היחס הפרואקטיבי על ידי מדינות כגון סין, שהציגו תקנות לטכנולוגיות GenAI ושירותים קשורים כבר בתחילת יולי 2023, מדגיש את ההכרה הגלובלית הגוברת בניהול AI. המפגש של סטנדרטים בינלאומיים, כגון אלה שניתחו על ידי אונסק"ו והארגון הבינלאומי לתקנות, יידגשו בברית האסטרטגית של חברות טכנולוגיה מובילות, המדגיש את מאמציהן המשותפים לנווט בעליית ה-AI ביזהות וישרות.