סין מציגה תקנות חדשות לתוכן שנוצר על ידי AI

מהלך משמעותי להסדרת התחום המתפתח של אינטליגנציה מלאכותית, הרשויות הסיניות חשפו טיוטת תקנות המחייבת זיהוי ברור של תוכן שנוצר על ידי AI. כפי שנמסר על ידי כלי תקשורת מרכזי, יוזמה זו מחייבת שכל פורמטי המדיה המיוצרים באמצעות AI, כולל טקסט, וידאו, שמע ודימויים וירטואליים, יציינו בבירור כי הם נוצרו על ידי AI.

ספקי תוכן מקוונים יצטרכו להציג מידע זה באופן בולט, באמצעות טקסט או תמונות, ומומלץ להם לאמץ שיטות מתקדמות יותר כמו סימנים דיגיטליים או תגים מטה-דאטה. הטיוטה אוסרת באופן ספציפי על כל ישויות או אנשים להסיר או לשנות את סימני ההזדהות האלה, מדגישה גישה חמורה לאכיפה כדי להגן מפני הפרות פוטנציאליות של זכויות ואינטרסים.

על פי סוכנות הרגולציה של האינטרנט, תקנה זו חלה על מגוון רחב של ארגונים המעורבים ביצירה והפצה של תוכן שנוצר על ידי AI, כולל חברות, מוסדות מחקר וארגונים תרבותיים. היא מטרתה להגן על הביטחון הלאומי ועל האינטרסים הציבוריים תוך שמירה על זכויותיהם החוקיות של אנשים וקבוצות.

רגולציה זו מתבססת על מסגרות קודמות שנוצרו כדי לנהל תוכן סינתטי וטכנולוגיות דיפפייק, מדגימה דאגות לגבי השימושים הפוטנציאליים שלהם במרמות מקוונות ודיבה. בהתחשב בצמיחה המהירה של AI ובפיצול המידע השגוי, מדינות רבות, כולל אלה באיחוד האירופי ובארצות הברית, גם שוקלות צעדים רגולטוריים דומים. יהיה תקופת ייעוץ ציבורית שתבוא לאחר מכן לפני שהתקנה תושלם, במטרה להבטיח שימוש אחראי בטכנולוגיות AI במדיה.

סין נוקטת צעדים נוספים כדי להסדיר תוכן שנוצר ב-AI: טיוטת תקנות חדשות חושפה

במאמצים מתמשכים להתמודד עם המורכבויות והאתגרים שמציבה האינטליגנציה המלאכותית (AI) בתחומים יצירתיים, הממשלה הסינית הציגה תקנות טיוטה חדשות המטילות דרישות מחמירות על השימוש בתוכן שנוצר על ידי AI. יוזמה זו מרחיבה את התמחות התקנות הקיימות ומטרתה לטפל בדאגות ההולכות ומתרקמות סביב מידע שגוי, הפרת זכויות יוצרים, וההשפעה של AI על נורמות חברתיות.

שאלות מרכזיות סביב התקנות

1. אילו אמצעי זיהוי ספציפיים דרושים עבור תוכן שנוצר על ידי AI?
– טיוטת התקנות מחייבת שתוכן שנוצר על ידי AI ייתויג בבירור, כאשר האפשרויות ליישום כוללות זיהויים טקסטואליים, סימני מים דיגיטליים, או תגים של מטה-דאטה שמתארים את טיב התוכן כ-NI נוצר. דרישה זו מסייעת להבחין בין יצירתיות אנושית לפלטים שנוצרו על ידי מכונה.

2. אילו השלכות קיימות על אי-ציות?
– ישויות שלא יעמדו בדרישות הזיהוי עלולות לעמוד מול סנקציות שיכולות לכלול קנסות, סגירות זמניות, או הגבלות על היכולת שלהן להפיץ תוכן בעתיד.

3. כיצד ישפיעו התקנות על חברות מקומיות לעומת בינלאומיות?
– בעוד שהתקנות מתמקדות בעיקר בארגונים מקומיים, חברות בינלאומיות שמייצרות או מפיצות תוכן בתוך סין יצטרכו גם הן לציית, מה שיביא לאתגרים עבור חברות גלובליות שעשויות להחזיק בתק Standards שונים לתוכן AI במקומות אחרים.

אתגרים ומחלוקות

כאשר טיוטות התקנות חשובות מתפרסמות, מספר אתגרים ומחלוקות מרכזיים צצים:

– הרחבה וצנזורה: מבקרים טוענים שהתקנות הקפדניות יכולות להוביל להרחבה מצד הרשויות, שעשויה להדק את הכוח על יצירתיות וחדשנות. דאגות עלו לגבי כיצד הכללים האלה עשויים לשמש כדי לשלוט בקולות שאינם מסכימים או להגביל את חופש הביטוי.

– כדאיות טכנולוגית: היישום המעשי של טכנולוגיות סימון מים על פלטפורמות שונות, במיוחד ברשתות חברתיות ובשירותי סטרימינג, עשוי להוות אתגרים טכניים משמעותיים. חברות צריכות למצוא דרכים לשלב את המערכות הללו מבלי להפריע לחוויית המשתמש.

– השפעה כלכלית: התקנות החדשות עשויות להטיל עלויות נוספות על יוצרי תוכן ומפיצים, שעלולות להוביל לירידה בפעילות בתעשיית ה-AI המתפתחת במהירות בתוך סין. דאגות עולות כיצד עלויות אלה עשויות להעביר עלויות לצרכנים או להחמיר תחרות.

יתרונות וחסרונות

יתרונות:
– מעלה את השקיפות והאמון במערכת המידע הדיגיטלית, מסייע למשתמשים להבחין בין מקורות מהימנים לבין מידע שגוי שנוצר על ידי AI.
– מגנה על זכויות יוצרי התוכן על ידי הקמת גבולות ברורים יותר בין תרומות אנושיות לתרומות ממכונה, שמשפרות את האכיפה של זכויות הקניין הרוחני.
– מסונכרן עם מגמות עולמיות בגישות הרגולציה ל-AI, מה שעשוי למקם את סין כמובילה בהגדרת סטנדרטים לפריסה אחראית של AI.

חסרונות:
– עלול להכשיל שימושים חדשניים של AI בתעשיות יצירתיות בכך שיטיל עלויות רגולטוריות שעלולות להרתיע ניסיונות ופיתוחים חדשים.
– עלול ליצור שוק מפולג שבו רק למשאבים מספיקים יהיו את האפשרויות לעמוד בדרישות, והופך את היוצרים הקטנים למודרים.
– מסתכן ביצירת סביבה של חוסר אמון שבה כל תוכן שנוצר על ידי AI יתפס חש疑נות, בלי קשר לערכו הפוטנציאלי או לשימוש החינוכי שלו.

כאשר סין מתמודדת עם המורכבויות של רגולציה על תוכן שנוצר על ידי AI, המומחים העולמיים יעקבו בקפידה אחר התוצאות, במיוחד כאשר מדינות אחרות שוקלות מסגרות רגולטוריות דומות. הנוף הבינלאומי לגבי ממשלת AI נשאר דינמי, כאשר מדינות מחפשות לאזן בין חדשנות ובטיחות.

למידע נוסף על צעדים רגולטוריים קשורים לטכנולוגיה ויצירת תוכן, בקרו ב- Tech Policy.