أقدمت شركة ناشئة في مجال الذكاء الاصطناعي تدعى إليفنلابس على اتخاذ الإجراء اللازم لحظر مستخدم قام بإنشاء فيديو صوتي مزور لجو بايدن في محاولة لتعطيل الانتخابات، وفقًا لتقرير نشره بلومبيرغ. تم استخدام الفيديو المزيف، الذي قام بتقليد الرئيس، في اتصال هاتفي آلي حث الناخبين في نيو هامبشاير على عدم المشاركة في الانتخابات الأولية لولاية الناخبين. وعلى الرغم من عدم وضوح كيفية تقليد التكنولوجيا لصوت بايدن، إلا أن شركة الأمان المعروفة بإسم بيندروب أجرت تحليلاً شاملاً وتمكنت من تحديد استخدام أدوات إليفنلابس بنجاح.
بدلاً من استخدام اقتباسات مباشرة من المقالة الأصلية، يمكن أن يتم شرح أن بيندروب قامت بإزالة الضوضاء الخلفية وتحسين الصوت في الاتصال الآلي ثم قارنته بعينات من تقنيات توليد الأصوات المتعددة المرتبطة بالفيديوهات المُزورة العميقة. وقد أكد الرئيس التنفيذي لشركة بيندروب، فيجاي بالاسوبرامانيان، أن التحليل قد أكد استخدام أدوات إليفنلابس بنسبة تتجاوز 99 في المئة بالتأكيد. وأضافت بلومبيرغ أنه على الرغم من أن الشركة تقوم حاليًا بالتحقيق في القضية بعد أن علمت بنتائج بيندروب، إلا أنها قد حددت وعلقت بالفعل على الحساب المسؤول.
يسلط الحادث المتعلق بالاتصال الآلي المزور لبايدن الضوء على الأثر المحتمل للتقنيات القادرة على تقليد صوت ومظهر الأشخاص، وخاصة فيما يتعلق بتلاعب بالأصوات خلال الانتخابات الرئاسية الأمريكية المقبلة. وقد عبرت كاثلين كارلي، أستاذة في جامعة كارنيجي ميلون، عن قلقها من هذا الأمر لصحيفة ذا هيل، حيث أشارت إلى أنه يعتبر إشارة لما يمكن توقعه في الأشهر القادمة من قمع الناخبين والهجمات على عمال الانتخابات.
ومن الأمور المثيرة للاهتمام أنه لم يستغرق سوى بضعة أيام بعد إطلاق إليفنلابس نسخة البيتا من منصتها حتى بدأ الناس في استغلال التكنولوجيا لإنشاء مقاطع صوتية تقلد مشاهير يقولون أشياء مشكوك فيها. في حين تشجع الشركة استخدام تكنولوجياها لأغراض فنية وسياسية تسهم في النقاشات العامة، إلا أنها تحذر المستخدمين من الاشتراك في أغراض مسيئة تنتهك القانون، مثل الاحتيال والتمييز وخطاب الكراهية. ومع ذلك، يسلط هذا الحادث الضوء على ضرورة أن تضع الشركة المزيد من التدابير الأمنية لمنع الأطراف الخبيثة من تلاعب الانتخابات في جميع أنحاء العالم.
يرجى ملاحظة أن هذه المقالة قد تحتوي على روابط تابعة. إذا قمت بالنقر فوق هذا النوع من الروابط وأجريت عملية شراء، فقد نحصل على عمولة.
الأسئلة المتداولة:
1. ما هي إليفنلابس؟
إليفنلابس هي شركة ناشئة في مجال الذكاء الاصطناعي تم تطوير أدوات لتقنية تركيب الأصوات.
2. لماذا قامت إليفنلابس بحظر مستخدم؟
حظرت إليفنلابس مستخدم قام بإنشاء فيديو صوتي مزور لجو بايدن في محاولة لتعكير الانتخابات.
3. كيف تم استخدام فيديو صوتي مزور لجو بايدن؟
تم استخدام الفيديو المزيف في اتصال هاتفي آلي حث الناخبين في نيو هامبشاير على عدم المشاركة في الانتخابات الأولية لولاية الناخبين.
4. كيف تم تحديد استخدام أدوات إليفنلابس؟
قامت شركة الأمان بيندروب بإجراء تحليل شامل وأكدت استخدام أدوات إليفنلابس بنسبة تتجاوز 99 في المئة.
5. ما هي المخاوف المتعلقة بتقنية الفيديوهات المزيفة والانتخابات؟
يسلط الحادث المتعلق بالاتصال الآلي المزور لبايدن الضوء على الأثر المحتمل للتقنيات القادرة على تقليد صوت ومظهر الأشخاص على قمع الناخبين والهجمات على عمال الانتخابات.
6. كم استغرق الأمر للاستغلال التكنولوجيا بعد إطلاقها بضعة أيام؟
لم يستغرق سوى بضعة أيام بعد إطلاق نسخة البيتا من منصة إليفنلابس حتى بدأ الناس في استغلال التكنولوجيا بإنشاء مقاطع صوتية تقلد مشاهير يقولون أشياء مشكوك فيها.
7. أي نوع من الاستخدام يشجع إليفنلابس لتقنيتها؟
تشجع إليفنلابس استخدام تقنيتها فيما يتعلق بالخطاب الفني والسياسي الذي يساهم في النقاشات العامة.
8. أي نوع من الاستخدام يحذر إليفنلابس منه؟
تحذر إليفنلابس المستخدمين من الاشتراك في أغراض مسيئة ينتهك القانون، مثل الاحتيال والتمييز وخطاب الكراهية.
تعريفات:
– الفيديو المزيف: استخدام الذكاء الاصطناعي لإنشاء أو تلاعب في الصوت أو الفيديو أو وسائط أخرى بطريقة تضلل أو تخدع المشاهد أو المستمع وتجعله يعتقد أن المحتوى المزيف هو حقيقي.
– الاتصال الآلي: هو اتصال هاتفي آلي يسلم رسالة مسجلة مسبقًا إلى عدد كبير من الناس.
روابط ذات صلة المقترحة:
– موقع إليفنلابس.
– موقع بيندروب.
– جامعة كارنيجي ميلون.
The source of the article is from the blog cheap-sound.com