חוקרים כמה בפיתוח בינה מלאכותית (AI), כולל אלה המשויכים ליוצר של ChatGPT, OpenAI, פנו בקריאה ציבורית לזכותם להביע לציבור על הסיכונים הקשורים לטכנולוגיית AI. הם הדגישו את חוסר הספיקות של ההגנה על מי שחושפים בסכנות, והעירו שלרוב ההגנה הנוכחית מיועדת לפעילויות לא חוקיות של חברות, בעוד שתחום AI חסר בדרכי מניעה משפטיות מסוימות.
קבוצת המומחים הצהירה כי פחדים מנקמה הם תקפים, בהתייחסם למקרים בעבר של פעולות נקמה כאלה בתעשייה. הם פנו אל מפתחי דגמי AI מתקדמים עם קריאה לאמוץ ארבע עקרונות בסיסיים. אחד מהעקרונות הינו להימנע מאיסור על מועסקים להוציא הצהרות שליליות על מעסיקיהם.
בעקבות הדלפות שכיחות כי OpenAI האיימה על עובדים לשכוח מאובלות המניות שלהם בגין "מכפירה" בחברה, המנכ"ל סאם אלטמן סלח והסיר את הסעיף, הטוען כי הוא לא ידע על קיומו וטוען שלא בוצע שימוש בו.
בנוסף, החוקרים ביקשו שיש תהליך בו עובדים יכולים ליידע באופן אנונימי את השלטונות והלוחות המנהלים של החברה על סיכונים פוטנציאליים של תוכנת AI. נדגש כי יש להם גם לפתח לו חירות לפנות לציבור אם אין אמצעים פנימיים זמינים.
הפיתוח המהיר של AI כפי שהוזהר על ידי חלק מהמומחים, עשוי להוביל לתוכנות אוטונומיות שיוצאות מכלל שליטת האדם, עם השלכות החל מהפצת המידע שקרי וכלה באי עבודה מסוג רב. כתוצאה מכך, מדינות מתאמצות ליצור תקנים לפיתוח תוכנות AI.
OpenAI, המוסד מאחורי סדרת תוכניות GPT, נחשבת לחלוצה בשדה זה. נציג של OpenAI הביע אמונה בחברתית-מדעית ברמת הסיכון הטכנולוגי. כעשאי עובדי OpenAI ו-DeepMind הנוכחיים והקודמים הצטרפו אנונימית לקריאה לתקנים לפיתוח AI אתי. ניל ננדה מ-DeepMind הוסיף כי הוא לא נתקל בשום דבר במקום העבודה הנוכחי או הקודם שידרוש להתרעה.
שאלות ותשובות מרכזיות:
מהו הנושא המרכזי שמתוחזק החוקרים בקריאה להגנת חוסנים?
הנושא המרכזי הוא החוסר בהגנות מספיקות לחוסנים בתעשיית AI – במיוחד הגנות המאפשרות לעובדים לצאת עם הדברה על פרקטיקות לא-אתיות או על סיכונות פוטנציאליים של טכנולוגיית AI ללא פחד מנקמה.
למה עקרונות אתיים בטכנולוגיה, במיוחד AI, חשובים?
התקדמות מהירה של טכנולוגיית AI שוטפת בדרך כלל עוברת את רמת החוק, מובילה לסיכונים אפשריים כמו שימוש לרעה במידע, הפרת פרטיות, שקיפות בתהליכי קבלת ההחלטות, ושפע אישי מחדש. בני עקרונות אתיים נועדו להקל על המקצועיות ששמורות כדי לפתור את זה.
מהן הפחדים שיש לעובדים לגבי עבירות שליליות לאחרו נשקפות?
העובדים פוחדים שעשויים להתמודד עם תגובות משפטיות ומקצועיות, כגון סיום, תביעות משפטיות, נזק לביקורתם או קנסות פיננסיים אם הם יחשפו דאגות לגבי פרקטיקות המעסיקים שלהם.
מהן הפתרונות המוצעים לאלה הנושאים?
בין הפתרונות המוצעים כלולים יצירת הליך עבור דיווח אנונימי לשוברי גונס מנהלי ורגולטורים, המבטיחים את הזכות להודיע לציבור בזמן שיא העניינים הפנימיים נכשלו ואמונה בערכים בסיסיים השומרים על חופש הביטוי בעניין תעשיית הטכנולוגיה.
אתגרים וסכסוכים ראשיים:
האתגר העיקרי הוא לאיזון הגנת החוסנים עם זכויות ואינטרסים של המעסיקים. חברות יכולות לטעון כי גיונות כאלה יכולים להוביל לחשיפת מידע סודי או גרימת נזקים בגלל האשמות שאינן ראיוניות. גם מרכזיות מתוך סכסוך מתעוררת בעת בחינת הצנזורה הפוטנציאלית במקצוע, משקף מתח בין ענייני החברה התעשייתית והבטחון הציבורי.
יתרונות וחסרונות:
יתרונות:
– הגנת חוסנים עשויים להוביל לשיפור פרקטיקות אתיות בפיתוח ה- AI.
– ניתן לשפר את הבטיחות בציבור על ידי ניתת הדגשה וטיפול בסיכונות פוטנציאליים.
– ייסד עקרונות אתיים מעורר תרבות של אחריות ושקפות.
חסרונות:
– הגנת חוסנים חזקה עשויה להוביל לחשיפות שעשויות לגרום לנזק חסר להגיון לחברה או לחשוף סודות מסחריים.
– חברות עשויות להתמודד עם תוקפית רבה של ריבוי דין ובדיקת רגולציה.
– תרבות הפתיחות עשויה לעכב אצל חלק מהמומחים בתעשייה מלקחת סיכונים, ולכן עשויים לכוון את החדשנות.