המנוע החיפוש המעודכן של Google טעה וטען באופן שקרי בתגובה לשאילתה משעשעת: הוא הציע כי חתולים נתקלו ונטפלו על ידי נבים על הירח, דבר שחסר לו כל תמיכה עובדתית. שגיאה משעשעת זו היא רק אחת מהרבות שהעירו את האזהרה בקרב המומחים.
בעידן בו ערך מוערכים מענים מיידיים, התגלחו מעני גוגל שנוצרו על ידי AI שלה עבור צניפת מידע שהיא עלולה לשקף מידע שקרי. אירוע אחרון שבו ה-AI אישר באופן שגוי תאוריה קונספירטיבית על נשיא אמריקני מיידית את הסכמת הסיכון. ה-AI טעה וטען שארצות הברית יש להן נשיא מוסלמי, למרות שהפרק שהתייחס אליו ה-AI לא תמך במידע הזה.
הדאגות לעקבות אחרי התכונה החדשה של ה-AI ברורות. המומחים טוענים כי היכולה הזו, לכאורה, לאחראיות כאם לא נדון באיכותו. גוגל היכרה בטעויות אלה והתחייבה לתקן אותן ולשפר את התכונה בהתבסס על משוב.
עם זאת, גוגל מקיימת שהדמוד ה-AI הוא בדרך כלל מדויק, ומייחסת פגיעות לטבע הפורך של למידה חישובית. הטכנולוגיה פועלת על בסיס תחזיות, מפעילה לפעמים תשובות דמיוניות, תופעה שנקראת "הליצנות".
אזהרות מומחים מתפשטות מעבר לדיוק לאקראיות. יש בכך דאגה גדולה למכייחי על התלות ב-AI על מידע: זה עשוי לתת פגיעה לכוח של האדם לחקור ולוידא מידע בצורה עצמאית. בנוסף, הכיוון המופעל על ידי AI של גוגל מעורב בפורומים באינטרנט ובאתרים אחרים שעשויים לאבד תנועה, שמשפיע על חיוניותם ומקורות ההכנסה שלהם.
מתחרים של גוגל מסתכלים בקרבה על יזמות ה-AI שלה, כאשר תוחלתה של ענק הטכנולגיה היא להישאר מלפני במבט לעבודת מוחלפים חדשניים כמו ChatGPT של OpenAI. מרדף אחרי AI אוטוריטטי הזה עורר ספק ביני משתתפים בתעשייה כרוך, ששאלו את הדחסות לקדימה לטכנולוגיה שעדיין מציגה פערים חשובים באיכות.
שאלות מרכזיות ואתגרים
מה טבע המידע שגוגל שינתה באמצעות AI?
מנוע החיפוש של גוגל סיפק תשובות שגויות, כגון השגה על "חתולי הלבנה" הנטופלים על ידי נבים, ואימת השכרת תאוריה קונספירטיבית על נשיא מוסלמי עבור ארצות הברית.
למה טעויות אלה של AI דוחית?
מידע שמייצר AI עשוי להביא אנשים לקבלת מידע שקר, המפוגע ביכולת לבדוק ולוידא עובדות באופן עצמאי.
מה גוגל עושה כדי לטפל בטעויות של AI?
גוגל הכירה בטעויות שביצע ה-AI והתחייבה לתקן ולשפר את המודל, ודגישה כי המדווחות הן עדיפות.
מהן ההשלכות האפשריות של תלות ב-AI?
התלות רבה בתשובות המייצרות AI עשויה להשפיע על כישורי החשיבה הביקורתית של האדם, תנועה לפורומים ברשת ולאתרים אחרים, ודינמיקה של שוק כאשר עסקים מתאימים לטכנולוגיה שמתפתחת.
יתרונות וחסרונות של ה-AI של גוגל
יתרונות:
– מספק תשובות מיידיות, שמתאימות למשתמשים שמעריכים גישה מהירה למידע.
– יכול לעבד כמויות גדולות של מידע כדי לספק תשובות שיפות.
– עוזר להחזיק את היתרון התחרותי של גוגל בתחום הטכנולוגיות הדינמי.
חסרונות:
– נטייה ליצור תשובות או "להליץ," שיכולה לנעות לפרסום מידע שקרי.
– עשוי להפחית מהחשיבה הביקורתית והחקירה האישית אם המשתמשים תלויים מדי בתשובות המייצרות של ה-AI.
– עשוי להשפיע בשלילה על פורומים ברשת ועל מקורות מידע אחרים אם תנועת התעבוט בגלל התוכן שנוצר על ידי AI.
השטח המתרחש בגוגל, הם חלק מהקשר החברתי-טכנולוגי הרחב יותר שפונה סביב דיונים על מנהיגות AI, אתיקה ופרושרים לפיתוח מערכות AI אחראיות. אתגרים אלו אינם מופחדים הגוגל בלבד, אלא התעשייה הטכנולוגית בכלל היומי כשה-AI משתלב באופן כל כול הולך בחיקוי. הטיפול באתגרים אלה מחייב גישה מרבית מובנית שכרוכה, כוללת לא רק פתרונות טכנולוגיים, כגון שיפור אלגוריתמים, אלא גם מאמצים הוראי, רגולטוריים וחברתיים כדי לשפר את הספרות הדיגיטלית ולהציב הנחיות אוטוריטטיות עבור הפעלת AI.
[מוטמע] https://www.youtube.com/embed/lIajSctmLYk