טכנולוגיית שכפול קול AI התקדמה באופן משמעותי, והקולות הנוצרים על ידי המוח המלאכותי מתקרבים בצורה מדהימה לקולות האנושיים. בזמן האחרון תפסו את הטכנולוגיה בפעולה במהלך הבחירות הראשוניות של המפלגה הדמוקרטית בניו המפשחיר, עם הודעות קוליות מחוללות עמוקות שפעזרו בצורה לא חוקית בבוחרים לדחות את ההצבעה בקלפי.
דיווחים מציינים שטכנולוגיית AI עשויה לצפצף ברשתות עם תוכניות מוגנות עמוקות המיועדות לטעות ולפתות, מה שיוצר איום מוביל כאשר קולות הופקרים שניים מחוללי AI מתחזים למועמדים בבחירות.
בתגובה להתפתחויות הללו, עולה חשש גובר מצידו של יו"ר ועדת התקשורת הפדרלית, ג'סיקה רוזנוורסל, שמבקשת מחברות תקשורת ראשיות כמו AT&T ו-Comcast לפעול נגד טלפונאיות פוליטיות המופעלות על ידי AI.
רוזנוורסל הדגשה את הצורך להילחם בשימוש לרעה בכלים של AI על ידי פושעים ומתחדדת, ואומרת: "ככל שטכנולוגיית AI מתחילה להיות נגישה יותר לנופלים לרעה ולמרמים, עלינו לעשות הכול ביכולתנו כדי לשמור על האיומים הללו מלהיכנס לרשתות שלנו."
למרות שאיסור על כל טלפונאיות מופעלות על ידי AI, פוליטיות או אחרות, נבחר בפברואר, חברות תקשורת ראשיות עדיין לא הכריזו על תכניות אכיפה
על אזרחים ראשי קמונות כהוראה לתביע את הסמכות תחת פקידות זו כדי לענוש את המעורבים בטלפונאיות מופעלות על ידי AI.
רוזנווירסל מבקשת גם ממערכות פוליטיות לגלות את שימושן בטכנולוגית AI במודעות טלוויזיה ורדיו, כפי שנחשף בדיווח של US News &, World Report. אולם, היוועד הרפובליקאי של ה FEC, שון קוקסי, הביע את דעתו והושטף מן הכוחות בטבעות הקשורים באתגרים משפטיים אפשריים.
טכנולוגיית שכפול קול AI: כתיב מפתח ואתגרים
עלייתה של טכנולוגיית שכפול קול AI מעלה שלל שאלות ואתגרים שיש לחברת האנוש סייגן כשהטכנולוגיה הזו ממשיכה להתפתח. ובעוד המאמר הקודם נגע בשימוש הפוטנציאלי של קולות המופקרים מוחי AI בסיטואציות פוליטיות, ישנם אספקים נוספים לשיקול.
מה הנתונים החשובים יותר לגבי טכנולוגיית שכפול הקול AI?
פורש נתון חשוב כי טכנולוגיית שכפול הקול AI אינו מוגבלת להקשרים פוליטיים בלבד. היא יכולה גם להיות להשימש רווחן בתחומים כמו בידור, שירות לקוחות ואפילו מסייעת לוי עם' ב־קוף ושפת זנה לוחות המצומצמים להבחנה בין קול אנושי לקול מותק מוחי.
מהן היתרונות והחסרונות העיקריים של טכנולוגיית שכפול קול AI?
היתרונות של טכנולוגיית שכילות בקול כוללים את הפוטנציאל שלה לשטר קויל יוצר, ליצור חוויות קול אישיות ולעזור לאנשים עם מוגבלויות דיבור. מצד שני, הטכנולוגיה מעלה דיבורת דלעות תמותה, הפרת פרטיואת, והשרדה של הנאמנות בתקשורת בקול.
מהן האתגרים העיקריים או הפריקות המשוייכים לשפלש לקול קיים?
האתגר העיקרי הוא בשימוש אתי של שפלש לקול AI. כמסופק במקרה של טלפוניות פוליטיות שהוזכרו במאמר הקודם, אכושריות יכולים לנצל את הטכנולוגיה הזו לצרכים מבתרים. בנוסף, הנושאים של אישור ופרטיות נפלצים כאשר קול של אדם יוכל להיות שפצה בלעדיי ההכריזה או הרשות שלו.
מהן השלבים שהתקבלים לטיפול באתגרים אלה?
מאמצים מתוחסים כדי להרגיל את השימוש בטכנולוגית שפלש לקול AI, כמו איסורים על יישומים מסוימים כמו טלפוניות פוליטיות. עם זאת, יש חוסר בתכניות יציניות לביאות בידי חברות ראשיות של תקשורת. גופים רגולטוריים כמו ה־FCC מעודדים יעוץ רוחבי ממערכות ישראליות לגבי שימוש בAI במודעות במדייה, אבל חוסרי דעתות בתוך הגופים הרגולטוריים עושים בירות למסתר למלבדים באזור גבורה של היקף ששפפוחנות בתחום זה.
לסיכום, השפיעה של טכנולוגיה זו של שפלש לקול AI מעמידה גם הזדמנויות גם סיכונים לחברת האנוש. כשתי הצדדים נחפתים בנחת הנוף המתפתח של הטכנולוגיות הרגעיות הללו, חשוב לנהל על מנת לנקם את השייגים האתיים, את קרעים הרגולטוריות ואת השימוש הפוטנציאלי לרעה כדי להבטיח ששכפול שפץ קול AI ישרת את תחושה הפומלית.
למידע נוסף על טכנולוגיית שפלש לקול AI, כנס/כנסי/ה לWired או The Verge.