گزارش بلومبرگ نشان می‌دهد که شرکت راه‌اندازی هوش مصنوعی به نام ElevenLabs اقدامات لازم را در قبال کاربری که یک دیپفیک صدایی از جو بایدن ساخت تا در انتخابات اخلال ایجاد کند ممنوع کرده است. این دیپفیک، که به عنوان رئیس‌جمهور تقلید شده بود، در یک اتوتلفن کمپینی که به رای دهندگان در نیوهمپشایر کنونی خود اطلاع داده شد، استفاده شد.
اولین بار که چگونگی تقلید صدای بایدن توسط این فناوری روشن شد، شرکت امنیتی Pindrop یک تجزیه و تحلیل جامع انجام داد و موفق شد شناسایی کند که ابزارهای ElevenLabs استفاده شده است. به جای استفاده از نقل و قول مستقیم از متن اصلی مقاله، می‌توان بهترشرح داد که Pindrop صداهای پس‌زمینه را حذف کرده و صدای اتوتلفن را قبل از مقایسه آن با نمونه‌هایی از تکنولوژیهای همزن بیان مرتبط با دیپفیک‌ها تقویت نمود. اظهارات مدیرعامل Pindrop، ویجی بالاسوبرمنیان نشان داد که تحلیل انجام شده استفاده از ابزارهای ElevenLabs را با اطمینان بیش از ۹۹ درصد تایید می‌کند. بلومبرگ افزود که در حال حاضر شرکت پس از آگاه شدن از نتایج بررسی‌های Pindrop، در حال بررسی موضوع و مسلم کردن حساب مسئول را فوراً شناسایی و تعلیق نموده است.
وقوع ماجرای دیپفیک اتوتلفن جو بایدن، تأکید بر تأثیر پتانسیل تکنولوژیهای قابلیت تقلید صدا و ظاهر یک فرد، به‌ویژه در ارتباط با سوءاستفاده از آن در انتخابات ریاست جمهوری آمریکا، دارد. کاتلین کارلی، استاد دانشگاه کارنگی ملون، به هیل ابراز نگرانی خود درباره این مسئله کرد و اظهار داشت که این موضوع به عنوان یک نشانه برای چیزی است، چه در خصوص سرکوب رأی‌دهندگان و هجمه به کارمندان انتخابات در طول ماه‌های آینده.
به طور جالب، تنها چند روز پس از راه‌اندازی نسخه بتای پلتفرم ElevenLabs، افراد به سرعت توانسته‌اند از این فناوری برای ساختن کلیپ‌های صوتی استفاده کنند که خواهانی از معتبریت دارند. درحالیکه این شرکت استفاده از تکنولوژی خود را به منظور ارتقاء هنری و سیاسی که به بهبود معارفه عمومی کمک می کند، تشویق می‌کند، کاربران را از اقدامات مستهجنی که باعث نقض قانون می‌شود، مانند تقلب، تبعیض‌گرایی یا سخنان افراطی، اخطار داده است. با این حال، این حادثه نیاز به استفاده از دیگر ابزارها برای جلوگیری از تلاش‌های خبیثانه در انتخابات در سطح جهانی را برجسته می‌کند.
لطفا توجه داشته باشید که این مقاله ممکن است حاوی پیوندهای همکاری باشد. اگر روی یک چنین پیوندی کلیک کنید و خریدی انجام دهید، ممکن است ما کمیسیونی دریافت کنیم.
به عنوان 1. ElevenLabs چیست؟
ElevenLabs یک شرکت راه‌اندازی هوش مصنوعی است که ابزارهایی برای تکنولوژی سنتز صدا توسعه داده است.
2. چرا ElevenLabs فردی را ممنوع کرد؟
ElevenLabs کاربری را که یک دیپفیک صدایی از جو بایدن ساخت تا در انتخابات اخلال ایجاد کند ممنوع کرد.
3. دیپفیک جو بایدن چگونه استفاده شد؟
دیپفیک در یک اتوتلفن کمپینی استفاده شد که به رای دهندگان نیوهمپشایر در خواست کرد در انتخابات ایالتی خود شرکت ننمایند.
4. چگونه مشخص شد که ابزارهای ElevenLabs استفاده شده است؟
یک شرکت امنیتی به نام Pindrop یک تجزیه و تحلیل جامع انجام داد و استفاده از ابزارهای ElevenLabs را با اطمینان بیش از 99 درصد تایید کرد.
5. چه نگرانی‌هایی در مورد فناوری دیپفیک و انتخابات وجود دارد؟
وقوع حادثه دیپفیک اتوتلفن بایدن نشان می دهد که تکنولوژیهای قادر به تقلید صدا و ظاهر یک فرد چه تأثیری بر سرکوب رأی دهندگان و حملات به کارکنان انتخابات می‌تواند داشته باشد.
6. چه سرعتی بعد از راه‌اندازی ElevenLabs افراد توانسته‌اند از تکنولوژی آن سوءاستفاده کنند؟
تنها چند روز پس از راه‌اندازی نسخه بتای پلتفرم ElevenLabs، افراد به سرعت توانستند از این فناوری برای ساختن کلیپ‌های صوتی استفاده کنند که خواهانی از معتبریت دارند.
7. از چه نوع استفاده‌ها ElevenLabs برای فناوری خود تشویق می‌کند؟
ElevenLabs استفاده از فناوری خود را برای هنری و سیاسی که به بهبود معارفه عمومی کمک می‌کند شجاعت می‌کند.
8. از چه نوع استفاده‌ها ElevenLabs هشدار داده است؟
ElevenLabs کاربران را از اقدامات مستهجنی که باعث نقض قانون می‌شود، مانند تقلب، تبعیض‌گرایی یا سخنان افراطی، هشدار داده است.
تعاریف:
– دیپفیک: استفاده از هوش مصنوعی برای ایجاد یا تغییر صوت، ویدیو یا سایر رسانه‌ها به نحوی که بیننده یا شنونده را به گمانکاری می‌برد که محتوای تقلبی اصلی است.
– اتوتلفن: یک تماس تلفنی خودکار که یک پیام پیش‌ضبط شده را برای تعداد زیادی از افراد ارسال می‌کند.
پیشنهاد می‌کنیم این پیوندهای مرتبط را بررسی کنید:
– وبسایت ElevenLabs
– وبسایت Pindrop
– دانشگاه کارنگی ملون
The source of the article is from the blog radardovalemg.com