הבוט הצ'אט AI של גוגל ג'מיני יוצא בהחלטה להגביל את יכולתו לענות על שאלות הנוגעות לבחירות במדינות בהן נקבע להתקיים הצבעה בשנה הזו. החלטה זו, הכבר בתוקפה בארצות הברית ובהודו, תוטל גם על מדינות נוספות שבהן מתוכננות בחירות בשנת 2024. המטרה בה היא למנוע את הפצת המידע השוואי ולשמור על תקינות תהליך הדמוקרטיה.
מימושן של ההגבלות הללו מתבצע כאשר ממשלות ורגולטורים בכל העולם להמודדים עם ההתקדמות המהירה בתחום המודעות המלאכותי ועם האיומים האפשריים שהם מנגנים על הבחירות. מסיבות חשש מהמידע השוואי שיוצרת AI, deepfakes, ופרסומת, ענקי טכנולוגיה כמו גוגל נתחפצים בלחץ מול צורך לשלוט בשימוש לא נכון שנעשה בכלי המלאכות שלהם.
ג'מיני, בתגובה לשאלות המקושרות לבחירות, כעת מציע תשובות אלימות כגון "עדיין לומדת איך לענות על שאלה זו. בינתיים, נסה חיפוש ב-Google." גם שאילתות בנושא רישום להצבעה מקבלות הפניה למנוע החיפוש של גוגל. בעוד שההגבלות הללו עשויות לגרום לתסכול למשתמשים המחפשים תשובות ישירות מהבוט, הן שירת מניעת פרצופות פוטנציאליות להפצת מידע משוחזר או מטעה.
על מנת להיאבק במידע שוואי בממדים גדולים יותר, גוגל מציעה מאפיינים מרובים, כולל סימון דיגיטלי מים ותווי תוכן לתוכן בתחום AI. הצעות אלו מיועדות לזהות ולהופיעו כדי להפחית מהמידע המשותף המקוטע באמצעות פלטפורמות שונות.
ג'מיני נתקל בביקורות לאחרונות על יצירת תמונות באופן לא נכון של אנשים שחורים בעת שייעזרו בסיטואציות היסטוריות, שניתן להעלות עליהם כתבות על גזענות. גוגל הגיבה לפולמה על ידי השעיית זמנית של חלק מהיכולות אוחזות בוט והתחייבה לטפל בבעיה. האירוע מציין את אתגריו החברתיים שנתקלים חוקרי הAI.
על החברותות המובילות בתחום הAI, בהן גם OpenAI וגוגל, להתכווננות יותר ויותר לחסום את בוטיהם מלענות בשאלות רגישות שעלולות להביא לתגובה ציבורית. עם זאת, ההחלטה להגביל אילו שאלות להגביל מוציאה גן חדש של אתגרים. דווח לאחרונה כי ג'מיני סרב לענות על שאילתות לגבי פלסטין אך עסק בשאילתות דומות שנוגעות לישראל.
בעוד ההגבלות המונחות על יכולתה של ג'מיני להתמודד עם בחירות עשויות להגביל כניסה מיידית למידע פוליטי דרך הבוט, הן צעד קדימה לביטחונות התהליך הדמוקרטי מפני הסיכונים שהניבה המידע המכאיב. בהפנתו של המשתמשים לשיטות חיפוש מסורתיות, גוגל מטרה לספק מידע מדויק ואמין ממקורות מהימנים.
**שאלות נפוצות**
1. מדוע גוגל מגבילה את בוט הצ'אט AI שלה מלענות שאלות הנוגעות לבחירות?
גוגל מיישמת את ההגבלות הללו כדי למנוע את הפצת המידע המטעה ולשמור על תקינות תהליך הדמוקרטיה במהלך הבחירות.
2. באילו מדינות כיום רואים בידי המשתמש החסימות אלו?
ההגבלות כיום תקפות בארצות הברית ובהודו. הן תתקפות גם בנפאים אחרות שבהן יתקיימו בחירות ב-2024.
3. איך יגיב ג'מני לשאלות הנוגעות לבחירות?
ג'מיני יספק תשובות נמנעות, כגון "עדיין לומדת איך לענות על שאלה זו. בינתיים, נסה חיפוש ב-Google," או תגובות דומות שיובילו משתמשים לשיטות חיפוש מסורתיות.
4. אילו מידות גוגל מציעה להילחם במידע שוואי?
גוגל מציעה תכונות כגון digital watermarking תווי תוכן לתוכן בתחום AI להזהית ולהפחית את המידע המטעה הנפץ בפלטפורמות שונות.
5. האם משתמשים עדיין יכולים לגשת למידע פוליטי דרך חיפושים ב-Google?
כן, משתמשים יכולים לגשת למידע פוליטי על ידי שימוש בגוגל חיפוש, שמספק גישה למידע מדויק ואמין ממקורות מהימנים.
**מונחים חשובים:**
1. AI (בינוני הפרקטי): סימולציה של ההבנה האנושית במכונות שמותכנות לחשוב וללמוד כמו בני אדם. בהקשר הזה של המאמר, היא מתייחסת לבוט הצ'אט AI של גוגל ג'מיני.
2. מידע שוואי: מידע שקרי או מטעה שהוא נפץ בכוונה או מבלי.
3. דיפייקס: וידאו או תמונות הנוצרו על ידי AI שנראים אמיתיים אך בעצם מותאמים או מזויפים.
4. פרגנדה: מידע, רעיונות או רגשות שמופצים באופן רחב עם מטרה לקדם גורמה פוליטית או נקודת רשיון מסויימת.
5. אימות דיגיטלי: התהליך של מיפוי זיהה ייחודי או תו אל מחודד בתוך תוכן דיגיטלי, כגון תמונות, להוכיח אימות או בעלות.
6. תווי תוכן: תווים או תיוגים המציינים את טבע התוכן, כגון אם הוא נוצר על ידי AI או עבר בדיקה עובדתית.
**לינקים מומלצים:**
1. גוגל: התחום הראשי של גוגל, שמספק גישה לשרותים רבים ולמידע שונה.
2. OpenAI: התחום הראשי של OpenAI, ארגון למחקר בתחום הAI שמפתח טכנולוגיות AI.
The source of the article is from the blog zaman.co.at