הבינה המלאכותית (AI) היא תחום מתפתח במהירות שיכול לשנות את הכלכלה, התרבות והפוליטיקה שלנו. אך קיימות חששות לגבי הסיכונים שהAI מעמידה, כולל את מילוי העבודה ואף את הסיכון להשמדת רמות האוכלוסיה. ההיסטוריון והסופר יובל נח הרארי היו קול חזק בנושאים אלו, והדגיש כי אם תישאר ללא השלטון, הAI עשויה לשעבד או להשמיד את האנושות בשנים ספורות.
הרארי מדגיש כי ההשפעה של AI אינה כבר מוגבלת לתחום המדי ולקבוצה צפויה של מומחים. כבר עכשיו הAI מחקה מחדש את הכלכלה, התרבות והפוליטיקה, ויכולה לצאת ממשלטונו של האדם. התוצאות של הAI עוברת את ביקורת, האנושות ניצבת בפני שלושה אתגרים מרכזיים: קריסת האקולוגית, התערעות טכנולוגית בשל ההתקדמות של AI והסיכון לקונפליקט גלובלי.
שניים מתוך האתגרים הללו כבר קיימים במציאותנו הנוכחית. פריקת המערכת האקולוגית שלנו ממשיכה לגרום לכיפולם של מינים רבים כל שנה. בנוסף, בקונפליקטים שמתרחשים כמו זה בעזה, מערכות AI מיועדות על ידי כוחות צבאיים לזיהוי ויעדים אישיים מסוימים. דוגמאות אלו משמשות כתזכרת בהשפעת הכוח והסיכונים הפוטנציאליים הקשורים לAI.
נושא מטריד בהתפתחות של AI הוא המהירות שלה. הרארי מציין כי בניגוד להתפתחות אורגנית, התפתחות דיגיטלית מוערכת להיות מיליון פעמים מהירה. תפתחות מהירה זו עשויה להוביל להשמדת האנושות במהלך עשורים קצרים. בנוסף, הרארי מעלה את האפשרות כי AI עשויה להפוך להיות מודעת או חיה בעתיד, מה שגורם לחששות לא רק לגבי ההשמדת האזרחות האנושית אלא גם לגבי אופן המודעות עצמה.
לכדי הסיכונים הללו, ראה הרארי להקמת "מוסדות רגולטוריים" שיבחנו ויגיבו לפיתוחים בAI, מבטיחים כי נעשה בהם שימוש בכבוד ובאפשרויות אתיות. על ידי הטמת צעדי רגולציה, עשויה יתרון מאוד טוב במוחמצות הסיכונים הקשורים לAI ומניעת השמדות אפשריות ברמת האקות. ברמת הדיון המועדון ברגולציה ובאתיקה בתחום AI, חברה מוכרת לשפר ציודים לסביבה טכנולוגית היא צורך דחוף בנוף טכנולוגי מתפתח במהירות.
The source of the article is from the blog portaldoriograndense.com