شرکت‌های فناوری و شرکت‌های بزرگ وابسته به هم می‌شوند تا به مواجهه با نگرانی روزافزون محتوای گمراه‌کننده هوش مصنوعی در انتخابات بپردازند. بیش از ده شرکت، از جمله گوگل، مایکروسافت، اوپن‌ای‌آی، تیک‌تاک و ادوب، تعهد کرده‌اند به همکاری برای تشخیص و مقابله با محتوای آسیب‌رسان هوش مصنوعی، شامل دیپفیکس فراتر از مرزهایی که باعث گمراه‌کردن سیاستمداران می‌شود. این تلاش، که به عنوان “پیمان فناوری برای مبارزه با استفاده فریب‌دهنده از هوش مصنوعی در انتخابات ۲۰۲۴” شناخته می‌شود، هدف آن توسعه فناوری جهت شناسایی محتوای غلط‌انداز هوش مصنوعی و تضمین شفافیت در مقابله با محتوای پتانسیل آسیب‌رسان است.
هر چند که فناوری هوش مصنوعی قابلیت تغییردهندهای در صنایع مختلف دارد، اما نگرانی‌های مربوط به سوء استفاده از آن در انتخابات رو به افزایش است. با قابلیت تولید متن‌ها، تصاویر و حتی ویدئوهای ردیابی‌شده، فناوری هوش مصنوعی می‌تواند برای انتشار اطلاعات غلط و گمراه کردن رأیدهندگان استفاده شود. حضور اخیر ابزار تولید ویدئویی به‌متن مصنوعی هوش مصنوعی شرکت اوپن‌ای‌آی، سورا، نیاز به تدابیر ضروری را به تازگی بیشتر مطرح کرده است.
شرکت‌های فناوری به عهده دارندگانی با مسئولیت خود، تدابیری فعال در خصوص خودتنظیمی محتوای هوش مصنوعی به خود می‌نمایند. این توافق جدید بر پایه تلاش‌های مشترکِ صنایع مختلف قبلی، با تمرکز بر توسعه استانداردهای صنعت، اتصال سیگنال‌های خوانایی ماشین به محتوای تولید شده توسط هوش مصنوعی جهت شناسایی منشاء آن و ارزیابی خطرات مرتبط با محتوای فریب‌دهنده هوش مصنوعی، می‌باشد. علاوه بر این، این شرکت‌ها قصد دارند به کمپین‌های آموزشی بپیوندند تا به مردم کمک کنند خود را در مقابل تغییر و فریب محافظت کنند.
با این حال، منتقدان معتقدند که تعهدات ارادی کافی نیستند و باید اقدامات جامع‌تری انجام شود. گروه‌های جامعه مدنی به اهمیت نظارت کامل بر محتوا که شامل بازبینی انسانی، برچسب‌گذاری و اجرا می‌شود اشاره می‌کنند. آنها از شرکت‌های فناوری می‌خواهند که فراتر از تعهدات کلی وعده‌های مبهم گذشته بروند و اقدامات محکمی را برای مقابله با زیان واقعی که فناوری هوش مصنوعی در دوره‌های انتخابی به وجود می‌آورد، انجام دهند.
در عصری که پیشرفت‌های هوش مصنوعی از چارچوب‌های تنظیمی بیشتری استفاده می‌کند، بسیار مهم است که شرکت‌های فناوری به مسئولیت مشترک بپردازند و به ساختن یک چشم‌انداز دیجیتالی ایمن و شفاف‌تر برای فرایندهای دموکراتیک بپردازند. با همکاری و بهره‌برداری از تخصص خود، این شرکت‌ها فرصتی را برای کاهش خطرات محتوای گمراه‌کننده هوش مصنوعی و حفظ صحت انتخابات جهانی دارند.
بخش سوالات متداول:
۱. “پیمان فناوری برای مبارزه با استفاده فریب‌دهنده از هوش مصنوعی در انتخابات ۲۰۲۴” چیست؟
“پیمان فناوری برای مبارزه با استفاده فریب‌دهنده از هوش مصنوعی در انتخابات ۲۰۲۴” یک تلاش است که شرکت‌های بزرگ فناوری، از جمله گوگل، مایکروسافت، اوپن‌ای‌آی، تیک‌تاک و ادوب، به همکاری و توسعه فناوری با هدف شناسایی و مقابله با محتوای گمراه کننده هوش مصنوعی، مانند دیپفیکس سیاستمداران، تعهد کرده‌اند. هدف این پیمان، تضمین شفافیت و مقابله با محتواهای آسیب‌رسان هوش مصنوعی در انتخابات است.
۲. چرا نگرانی درباره محتوای گمراه‌کننده هوش مصنوعی در انتخابات وجود دارد؟
هوش مصنوعی دارای قابلیت تولید متن، تصویر و ویدئوهای واقعی‌تر است که می‌تواند در دوران انتخابات اطلاعات غلطی را منتشر و رأی دهندگان را گمراه کند. انتشار ابزار تولید ویدئویی به‌متن هوش مصنوعی شرکت اوپن‌ای‌آئی، نیاز به تدابیر جدی‌تر با هدف مقابله با سوء استفاده از تکنولوژی هوش مصنوعی نشان داده است.
۳. شرکت‌های فناوری چه اقداماتی را برای تنظیم محتوای هوش مصنوعی در دست دارند؟
شرکت‌های فناوری در حال گام‌های مثبتی برای خودتنظیمی محتوای هوش مصنوعی هستند. توافق جدید بر توسعه استانداردهای صنعت، استفاده از سیگنال‌های خوانایی ماشین برای شناسایی منشاء محتوا تولیدشده توسط هوش مصنوعی و ارزیابی خطرات محتوای فریب‌دهنده هوش مصنوعی تمرکز می‌کند. علاوه بر این، این شرکت‌ها قصد دارند به کمپین‌های آموزشی بپیوندند تا به مردم کمک کنند خود را در مقابل تغییر و فریب حفاظت کنند.
۴. آیا تعهدات ارادی کافی برای مقابله با این مسئله است؟
منتقدان بر این باور هستند که تعهدات ارادی کافی نیستند و باید اقدامات جامع‌تری انجام شود. گروه‌های جامعه مدنی بر اهمیت نظارت قوی بر محتوا که شامل بازبینی انسانی، برچسب‌گذاری و اجرا است تأکید می‌کنند. آنها از شرکت‌های فناوری می‌خواهند که فراتر از تعهدات مبهم گذشته بروند و اقدامات محکمی را برای مقابله با زیان واقعی که فناوری هوش مصنوعی در دوره‌های انتخابی به وجود می‌آورد، انجام دهند.
۵. چرا برای شرکت‌های فناوری مهم است مسئولیت مشترک داشته باشند؟
در عصری که پیشرفت‌های هوش مصنوعی از چارچوب‌های تنظیمی پیشی می‌گیرند، مسئولیت مشترک برای ساختن چشم‌انداز دیجیتالی ایمن و شف
The source of the article is from the blog anexartiti.gr