הבינה המלאכותית (AI) מתקדמת בקצב בלתי רגיל, והממשלה הפדרלית חייבת לפעול מיד לתקן טכנולוגיה זו, כך טוען יושיה בנגיו, החלוץ של בינה מלאכותית. בנגיו, הידוע כ"אבי המזידים" של AI, הדגיש כי המסלול הנוכחי של AI מהווה סיכונים חברתיים משמעותיים ושאף אוטאוווה לא צריכה להאחר ביישום חוקים, גם אם הם אינם מושלמים.
אחת הדאגות המרכזיות במאמר של בנגיו היא השמישה האפשרית של AI, בעיקר דרך יצירת סרטוני deepfake היכולים להפיץ אי-מידע. סרטונים אלו משתמשים ב- AI כדי לשנות תמונות ולתת בראש פומבי לציבור תחושה כאילו אנשי ציבור אמיתיים אומרים או עושים דברים שלמעשה הם לעולם לא עשו. ומעבר לכך, אפשר להשתמש ב- AI למרות שיחתairד עם משתמשי מדיה חברתית כדי לשנות את דעותיהם הפוליטיות, מה שעשוי להביא לקריסה של מערכת העקרונות הדמוקרטיים.
בנוסף, בנגיו הדגיש את הסיכון הגבוה של מערכות AI מתוקפות סייבר. עם התקדמות הטכנולוגיה של AI, יתכן ומערכות אלה תשפיע על הגנה מפני תקיפות סייבר ותכביר תשתיות מסדר דיגיטלי חיוניות. אם ידיים שגויות iעניינו'i מדובר, התוצאות עשויות להיות משמעותיות.
בתגובה לתחשיבי מאמר זה, ועל מנת לתת תשובה לאיומים המובנים בAI, ועל פי המלצתו ללא צורך בתהליך רגולטורי . הוא הציע להקים רשומה המחייבת מפתחי טכנולוגיית AI עם יכולת מהודקת יחודית לדווח לממשלה. בכל זאת, תהפוך את האחריות לעיינת הח"כים בלי בכך להטיל את משקל הביטחון או הבריאות המדעית לעליהם.
בנגיו דרש גם להרחיב את ההגדרה של מערכות AI ש"יתואמו גבוה" כך שיתפשטו על זווית ביטחונית לאומית ומערכות שניתן להשתמש בהן בתקופה אחרת עבור תקיפות סייבר ונשק, או שבמרוץ שלאותו הן מוחזקות מיושמות מחדשגם בניגוד להוראות התכנותיות
הדחיפות של התפקיד הממשלתי בתקנת AI נמצא גם בדגשו של קתרין רגי, פרופסורית שביוניברסיטת מונטריאול. רגי הדגישה את התפתחות המהירה של AI ברחבי העולם וקיומו החיוני של קנדה להגדיר את מעמדה בהפקדת AI לשאר המדינות העולמיות.
במסקנה, התקדמויות מהירות בטכנולוגיית AI מחייבות תקנה ממשלתית מיידית. על ידי יכולות התקדמות המתמודדות עם הסיכונים המתייחסים ל- AI, הממשלה יכולה לכפות הזנחת המאפיינים המסיכים על-ייצוב הטכנולוגיה החזקה פוגעת בסיכון החברתי והביטחוני שקשורים לטכנולוגיה זו.
שאלות ותשובות:
שאלה: מה הדאגה העיקרית בנושא AI על פי יושיה בנגיו?
תשובה: יושיה בנגיו מדאג לשימוש לרעה של AI, בעיקר בעזרת יצירת סרטוני deepfake המפיצים אי-מידע.
שאלה: איך AI יכולה לשקר למשתמשים במדיה חברתית?
תשובה: AI יכולה להתעסק בשיחה עם משתמשי מדיה חברתית ולשנות את דעותיהם הפוליטיות, ועלולה להוביל לנזק של עקרונות הדמוקרטיה.
שאלה: מהו סיכון נוסף שצוין על ידי בנגיו?
תשובה: בנגיו ציין גם את הסיכון של מערכות מתקדמות של AI המשתמשות לתקיפות סייבר, שיש להם אפשרות לגרום לקונסקוונסיות קשות אם מתפקים לאדם שמוחזק בידי ידיעה אחרת.
שאלה: מה הפתרון המוצע לתקן מערכות AI?
תשובה: בנגיו הציע להקים רשומה המחייבת מחברות שפותחות מערכות AI עם רמה מסוימת של יכולת לדווח לממשלה. בכך, הסיכון שבעלי עניין ילכו על מחזור כלכלי נוכחי על חתכים אחרים של הדברה המדעית יישאו מסכון סביר עד גבוה שנועדו לתקפים סייבר.
שאלה: על מה הדגישה קתרין רגי בנוגע לתקנה של AI בקנדה?
תשובה: קתרין רגי הדגישה כי קנדה חייבת להגדיר את הביחד על תקנה AI לדיון בבימו הגלובלי של התנהלות ממשלתית.
מונחים עיקריים והגדרות:
הבינה המלאכותית (AI): טכנולוגיה שמאפשרת למחשבים לבצע משימות שדורשות בדרך כלל אינטיליגנציה אנושית, כמו זיהוי קול, פתרון בעיות והתקפי החלטה.
סרטוני deepfake: סוג של מדיה מינית מהונדסת המשתמשת ב- AI לשקר או ליצור סרטונים שקר
The source of the article is from the blog maestropasta.cz