האובדן במקרים של פעולות התאבדות בקרב נוער אמריקאי בגילאי 10 עד 14 עומד לידי ביטוי בצורה גוברת, וכיום הוא נמצא במקום השני מבין הגורמים המובילים למוות בקרב קבוצת הגילאים הזו. בניסיון להתמודד עם המשבר הזה, רבות מבתי הספר פנו לטכנולוגיה, ובמיוחד לתוכנות ניטור התלמידים המבוססות על AI, כדי לעזור בזיהוי ותמיכה בתלמידים בסיכון. אם כי כוונת הכלים הללו עשויה להיות יקרה, קיימות חששות כאשר מדובר בדיכוי פרטיות ובאפשרות להגביר את האי-שוויון הקיים.
אחד החששות המרכזיים שקשורים לתוכנות הניטור המבוססות על AI היא האיום שהן מהוות על פרטיות התלמידים. מאחר והתוכנה פועלת ברקע של התקנים וחשבונות שמסופקים על ידי בתי הספר, יש לה היכולת לאסוף כמויות גדולות של מידע על חייהם של התלמידים. כלולת שאלות בנוגע לאופן בו מאוחסן ומשותף המידע הזה ואיך הוא מוגן. יש חברות שהתחייבו להגן על מידע התלמידים, אך אין כרגע תקנה לאומית המכריחה את החברות לעמוד בהתחייבויות האלו.
מעבר לכך, הסרוב להשתמש בתוכנה המבוססת על AI יכול להיות מאתגר למשפחות. ברבות ממחוזות הלימוד, הסכמת הכלים המבוססים על AI הוא דרישה לשימוש בהתקנים שמסופקים על ידי בתי הספר, ולכן משפחות נמצאות במצב קשה כאשר הן רוצות להגן על פרטיות הילדים שלהן. לספק להם מחשבים משל עבור שימוש בבית הספר אינו בר מקובל כלכלית עבור רבות מהמשפחות, וכך החוסך הם באופציות תהייה.
חשש מועיל נוסף הוא בפועל בנזק שאלגוריתמי הAI עשויים לעלות באי-שוויון. דיווחים דיברו על הורדת הדגל של חיפושי אינטרנט של תלמידים LGBTQ+, מה שבפועל מבריח את תלמידי קור אל משקפי המשק הביתי. זה מעלה שאלות לגבי אייזון ביוס של האלגוריתמים האלה וכיצד ניתן לתקן דבר זה. בנוסף, סטודיו ראשון מצא כי ניטור המבוסס קבע באופן עקבי תכנים המקושרים לגזע, מין והכוונה מינית, מדביעה שוב את היכולת של כלי אלה לאפשר את האי-שוויון.
מעבר לכך, הדרך שבה בתי הספר נועדו להגיב להתרעות שנוצרות על ידי התוכנה המבוססת AI היא סוג של הפכה חוששת. ייתכן והתרעות היצרויות מצד התוכנה גרמו לפעולות מיסודיות כמו תורמות, במקום לספק תמיכה ברוח הבריאה הנפשית לתלמידים. ומעבר לכך, כאשר בתי הספר חסרים צוות לביקורת על התרעות אלו, מיתגדרות לכלל אירועים מיותרים ביני תלמידים ולמשטרה המקומית. בנוסף לסכנה שהכלי הוארך על מנת לתקן את הבעיות שהם חווים, זאת לא רק שמסכנת את התלמידים, בעיקר אלה שממקומות קטנים, אלא שגם מוסיפה לבעיות הקיימות.
אם כי המטרה של תוכנות ניטור התלמידים המבוססות על AI היא למנוע אובדן בעובר הנוער, חשוב לטפל באיומים הפרטיים והבעיה הנמצאת עם השוויון שהן מייצרות. יש להביא לידי ביטוי את התפרטים והשקיפות הנדרשות בעסקת הכלים הללו, כאשר ניתן לקבוע תקנות יסודיות ולהקפיד על שמירה על פרטיות התלמידים ועל המינימום של הזיקה להפחתת הבעיות.
שאלות נפוצות בנושא: תוכנת ניטור התלמידים המבוססת AI והשפעתה על פרטיות התלמידים והשוויון
1. מהו תוכנת ניטור התלמידים המבוססת AI?
תוכנת ניטור התלמידים המבוססת AI היא סוג של טכנולוגיה המשמשת את בתי הספר למעקב ולניטור אחר פעולות התלמידים, גם בהתקנים שמסופקים על ידי בתי הספר וגם בחשבונות פרטיים של התלמידים. תוכנה זו משתמשת באלגוריתמים של אינטיליגנציה מלאכותית על מנת לזהות ולתמוך בתלמידים בסיכון שעלולים להתמודד עם בעיות בריאות הנפש או עם מחשבות מתאבדות.
2. מדוע קיימים חששות לגבי פרטיות התלמידים עם תוכנות ניטור המבוססות AI?
התוכנות מאספות כמויות גדולות של מידע הקשור לחיי התלמידים, מה שעובד מחאות בנוגע לשאלות של איחסון המידע הזה, שיתוף המידע וההגנה עליו. קיימים חששות לגבי פרטיות התלמיד
The source of the article is from the blog japan-pc.jp