המלחמה באמינות הודאי תמונות דיגיטליות
בעידן הדיגיטלי הנוכחי, נרחבה הקושיָ בהבחנת האמינות של תמונות שמופצות ברשתות החברתיות ובאתרים שונים מאחר וזיהון העות' המלאכותי המיוחד עלה בצורה דרמטית. הקלות שבה אחישי אינדיבידואלים יכולים כיום ליצור תמונות או רישומים מזויפים הגבירה באופן משמעותי את הסיכון שפלטות אי-מידע תחדר למערכת המקוונת.
הכרזת מוקנה את מכונן COMA השלישי של OpenAI
כדי להבטיח את פיתרון הבעיה המבוארת זו, OpenAI השיקה את הכלי לאיתור הראשון שמיועד במיוחד לזהיר תמונות שיצרה צלם העות'
תועלת נגד החומת הכמיש הרכוב
למרות הדיוק הגבוה של המערכת, היכולה לזהות תמונות שנוצרו על ידי צלם העות' בדיוק של עד 98%, בעיקר עליהן נבנו בעזרת כלי "DALL·E 3" של OpenAI, החברה מכירה באופציות לירידה ביעילות כאשר תמונות עדיין לא נערכו לאחר ההתמודדות או נרשמו על ידי מודלים אחרים של צלם העות'. במבחנים פנימיים בתחילת הופעת המערכת, נראה שפחצן מתחת ל-0.5% של תמונות אמיתיות נטען תגית לא נכונה של יצירות ה-חיש היו נקראות כאלו באמצעות OpenAI.
צעד לנוכח אמינות האינטרנט
הרבים רואים בכך את השלב המרכזי במאבק בהפצת תוכן המזוייף באינטרנט. לרבות באופן כזה, OpenAI קוראת לחברות ולמוסדות לאחד כוחות בקרב נגד תוכן מזוייף, ולהגן על משתמשי האינטרנט ממידע המביא להטעות.
תכונות הכלי החדשות המודגשות ע"י OpenAI:
– רמת דיוק גבוהה בזיהוי תמונת AI: הכלי נופל על רמת דיוק של 98% בזיהוי תמונות בתיוק שנבראו בעזרת "DALL·E 3" של OpenAI.
– הפחתת סיכוני תוכן מזוייף: המנגנון עוזר להפחתת התופעה של תמונות מזוייפות שתוכל לשמש לצרכים מזיקים כמו הונאה.
– הישג לתקני אימות תוכן דיגיטלי: OpenAI שואפת לדרוך בעקבות מיניימום את תקני יוקרות האמינות בתכנים (CAI) על ידי תיוג תמונות שנוצרו בצורה כזאת.
במאמץ מונח, Meta הכריזה בחודש שעבר על תוכנית זו ליישום אבני הדרך מערכת הקובצים שמוסרה שקודם נקראת פייסבוק ואינסטגרם החל במאי, מה שמציין תנועה משמעותית לשדרג בטיחות דיגיטלית ואמינות בתוך תוכן המקוון. השלבים הללו מציגים את המחויבות של OpenAI והתעשיה לשיפור הה透יה והביטחון בקרב הדאגות הגוברות לגבי השימוש לא נכון ביישון העות' בהפצת פי-מידע ותוכן מזיָף.