گروهی از 20 شرکت فناوری، از جمله گوگل، متا، OpenAI، و X (قبلاً توییتر)، به تعهد مشترکی برای مبارزه با محتوای فریبنده تولید شده توسط هوش مصنوعی (AI) و حفاظت از انتخابات تعهد کرده‌اند. این شرکت‌ها با هم توافق کرده‌اند و به توافقنامه فنی برای مبارزه با استفاده فریبنده از AI در انتخابات سال 2024 در کنفرانس امنیت مونیخ پیوسته‌اند.
این توافقنامه یک چارچوب داوطلبانه است که اصول و اقداماتی را برای جلوگیری، شناسایی، پاسخگویی، ارزیابی و شناسایی منبع محتوای فریبنده AI در انتخابات ایجاد می‌کند. امضاکنندگان این توافقنامه، که شامل تیک‌تاک، آمازون، IBM، Anthropic و مایکروسافت نیز می‌شوند، تعهد کرده‌اند که آگاهی عمومی را در مورد محافظت از خود در برابر تلاش‌های تبلیغاتی ناشی از این محتوا افزایش خواهند داد.
در چارچوب این توافقنامه، این 20 سازمان به چندین فعالیت تعهد کرده‌اند. آنها سعی خواهند کرد تا جلوی توزیع محتوای فریبنده AI انتخاباتی را بگیرند و جلوه‌ای در برابر رویکرد خود در حل مشکل این محتوا به عموم ارائه دهند، و ابزارهایی برای شناسایی و مهار گسترش محتوای فریبنده توسعه و اجرا کنند. تلاش‌ها همچنین برای پیگیری منشأ محتوا انجام خواهد شد، احتمالاً از طریق استفاده از تصفیه کننده‌ها، روش‌های اصالت‌نگاری، نشانه‌گذاری یا اتصال اطلاعات خوانا به محتوای تولید شده توسط AI.
تعهدات این شرکت‌ها برای خدماتی که ارائه می‌دهند قابل اجرا خواهد بود. این توافقنامه بر عهده گفتن‌های تولید شده توسط AI می‌افتد که آنها را به طور فریبنده جعل می‌کند یا ظاهر، صدا یا اقدامات نامزدهای سیاسی، مسئولان انتخابات و سایر دخل‌های اساسی دیگر را جعل می‌کند، و اطلاعات فریبنده در مورد روال‌های رأی‌گیری منتشر می‌کند.
این توافقنامه تأکید می‌کند که هوش مصنوعی در فرایند دموکراتیک اهمیت بیشتری پیدا کرده است و نیاز به اقدامات جمعی برای حفاظت از انتخابات و فرایند انتخاباتی را بیان می‌کند. امضاکنندگان به این نکته پرداخته‌اند که مقابله با استفاده فریبنده از AI نه تنها چالش فنی است بلکه یک مسئله سیاسی، اجتماعی و اخلاقی نیز می‌باشد. آنها تأکید می‌کنند که حفظ صداقت انتخاباتی و اعتماد عمومی یک مسئولیت مشترک است که از اندیشه‌های سیاسی و مرزهای ملی فراتر می‌رود.
با همسو کردن تلاش‌هایشان، شرکت‌های فناوری به منظور مدیریت ریسک‌های مربوط به محتوای فریبنده AI انتخاباتی در پلتفرم‌های عمومی خود یا مدل‌های اساسی باز تلاش خواهند کرد. این توافقنامه مدل‌ها یا نمونه‌هایی را که برای اهداف تحقیقاتی یا اصلی برای استفاده شرکتی طراحی شده است پوشش نمی‌دهد. امضاکنندگان تأکید می‌کنند که هوش مصنوعی قابلیت کمک به مبارزه با عوامل بد و امکان تشخیص سریع‌تر تبلیغات فریبنده را دارد و در عین حال هزینه‌های کلی دفاع را کاهش می‌دهد.
توافقنامه فنی یک گام حیاتی در پیشبرد صداقت انتخابات و انطباق جامعه است، که از تمرکز در مقابل عدم صداقت و اطمینان اجتماعی زیادی که خطرات قابل توجهی برای همبستگی اجتماعی ایجاد می‌کند، پشتیبانی می‌کند.
پرسش‌های متداول درباره توافقنامه فنی برای مبارزه با استفاده فریبنده از AI در انتخابات 2024:
1. هدف توافقنامه فنی چیست؟
اهداف این توافق برای مبارزه با محتوای فریبنده تولید شده توسط هوش مصنوعی (AI) به منظور حفظ انتخابات جهانی که قرار است در سال 2024 برگزار شود می‌باشد.
2. کدام شرکت‌ها به این توافق پیوسته‌اند؟
توافقنامه توسط 20 شرکت فناوری امضا شده است، شامل گوگل، متا، OpenAI، X (قبلی توییتر)، تیک‌تاک، آمازون، IBM، Anthropic و مایکروسافت.
3. توافقنامه چه چیزی تأسیس می‌کند؟
این توافقنامه یک چارچوب داوطلبانه است که اصول و اقداماتی را برای جلوگیری، شناسایی، پاسخگویی، ارزیابی و شناسایی منبع محتوای فریبنده AI در انتخابات ایجاد می‌کند.
4. چه تعهداتی این شرکت‌ها به آن پیوسته‌اند؟
امضاکنندگان این توافقنامه به تشخیص و جلوگیری از توزیع محتوای فریبنده AI انتخاباتی، ارائه شفافیت نسبت به رویکرد شان در حل این محتوا به عموم، و توسعه ابزار‌ها برای شناسایی و مهار گسترش محتوای فریبنده تعهد کرده‌اند.
5. چطور منشأ محتوای فریبنده پیگیری خواهد شد؟
تلاش‌ها جهت پیگیری منشأ محتوای فریبنده از طریق تصفیه‌کننده‌ها، روش‌های اصالت‌نگاری، نشانه‌گذاری یا اتصال اطلاعات خوانا به محتوای تولید شده توسط AI انجام خواهد شد.
6. آیا این توافقنامه برای تمام خدمات ارائه شده توسط شرکت‌های امضاکننده قابل انعقاد است؟
بله، تعهدات گرفته شده توسط شرکت‌ها برای خدماتی که ارائه می‌دهند قابل اجرا خواهد بود.
7. چه انواع محتوا توسط توافقنامه پوشش داده می‌شود؟
این توافقنامه محتوای فریبنده تولید شده توسط هوش مصنوعی را پوشش می‌دهد، از جمله صدا، فیلم و تصاویر که دروغین یا باورهای آزاردهنده را نسبت داده‌اند و یا اطلاعات فریبنده در مورد روال‌های رأی‌گیری منتشر کردند.
8. چرا برای حل مسائل استفاده فریبنده از هوش مصنوعی اقدام جمعی لازم است؟
توافقنامه بر این اصلیت که اهمیت هوش مصنوعی در فرایند دموکراتیک به شدت احساس شده و این نکته را تأکید می‌کند که رسیدگی به استفاده فریبنده از AI نه تنها چالش فنی است بلکه یک مسأله سیاسی، اجتماعی و اخلاقی است. این یک مسئولیت مشترک است که فراتر از منافع سیاسی و مرزهای ملی می‌رود.
9. آیا توافقنامه تمام مدل‌های AI را پوشش می دهد؟
توافقنامه مدل‌های یا نمونه‌های ایجاد شده برای اهداف تحقیقاتی یا برای استفاده اصلی شرکتی را پوشش نمی‌دهد. حوزه آن محدود به پلتفرم‌های عمومی یا مدل‌های اساسی می‌شود.
10. چگونه توافقنامه به انطباق انتخابات و انطباق جامعه کمک می‌کند؟
توافقنامه یک گام حیاتی درپیشبرد صداقت انتخابات و انطباق جامعه است، که از تمرکز در مقابل عدم صداقت و اعتماد اجتماعی زیادی که خطرات قابل توجهی برای همبستگی اجتماعی ایجاد می‌کند، پشتیبانی می‌کند.
The source of the article is from the blog cheap-sound.com