في السنوات الأخيرة، اكتسبت تقنية استنساخ الأصوات بواسطة الذكاء الاصطناعي شعبية متزايدة، مع تفشي الأغاني المنتجة بواسطة الذكاء الاصطناعي والتي تعود للفنانين الشهيرين عبر الإنترنت. ومع ذلك، ظهرت الجانب المظلم لهذه التقنية بسرعة، حيث انتشرت عمليات الاحتيال والتضليل. أصبحت عمليات الاحتيال المتعلقة بمجال استنساخ الأصوات مشكلة متزايدة، حيث يقع الأفراد والشركات ضحية لهذا النوع من الاحتيال.
ظهرت الهند كهدف رئيسي لعمليات التضليل بواسطة استنساخ الأصوات بالذكاء الاصطناعي، حيث سجلت نسبة أعلى بكثير من الضحايا مقارنة بالمتوسط العالمي. ووفقًا لتقرير، فإن نصف الهنود المُستجوبين إما تعرضوا لهذه العمليات أو كانوا يعرفون أشخاصًا تعرضوا لذلك. إن سهولة الوصول إلى أدوات استنساخ الأصوات بالذكاء الاصطناعي قد سمحت للمحتالين بانتحال شخصيات الأفراد وخداع الناس لتحويل الأموال أو مشاركة المعلومات الحساسة.
يرجع فقدان الهنود لحمايتهم من هذه العمليات إلى استعدادهم للرد على طلبات النداء العاجلة من أصدقاء أو أفراد أسرتهم الذين يحتاجون إلى مساعدة مالية. يستغل المحتالون هذه الثقة عن طريق استخدام أعذار مثل التعرض للسرقة أو التورط في حادث سيارة أو الحاجة إلى أموال أثناء السفر في الخارج. في كثير من الأحيان، يطغى الشعور بالطوارئ الذي يخلقه المحتالون على عيوب تقنية استنساخ الأصوات.
لإنشاء النسخة المستنسخة للصوت، يحتاج المحتالون فقط إلى مقطع صوتي للشخص المستهدف، يمكن تحميله على برنامج عبر الإنترنت قادر على استنساخ صوته. هناك العديد من الأدوات المتاحة، بما في ذلك الأدوات الشهيرة مثل Murf و Resemble و Speechify. أيضًا، لقد انضمت بعض الشركات الناشئة المدعومة من قبل شركات تكنولوجيا معروفة مثل Andreesen Horowitz إلى سوق استنساخ الأصوات بالذكاء الاصطناعي.
لقد أثار انتشار تقنية استنساخ الأصوات استياء المنظمات الرقابية ووكالات إنفاذ القانون. فقد أطلقت هيئة التجارة الفدرالية الأمريكية تحدياً للكشف عن الأجهزة المستنسخة بالصوت، بهدف الحصول على أفكار مبتكرة لاكتشافها ومراقبتها. ومع ذلك، تُشكل التطورات السريعة في مجال الذكاء الاصطناعي الإنتاجي وتوفر الأدوات مفتوحة المصدر تحديات أمام المنظمين للحفاظ على الرأس بين الاحتياليين.
من المتوقع أن يشهد السوق العالمي لتطبيقات استنساخ الأصوات بالذكاء الاصطناعي نموًا كبيرًا، لتصل قيمته إلى ما يقدر بحوالي 5 مليارات دولار بحلول عام 2032. مع احتمالية حدوث عمليات احتيال وحملات تضليل أكثر تطورًا، فمن الضروري للأفراد والمؤسسات أن يبقوا يقظين ويحذروا عند الاستجابة للمكالمات الصوتية أو الرسائل التي تطلب المساعدة المالية.
مع استمرار تطور تكنولوجيا الذكاء الاصطناعي، يصبح من الضروري بشكل متزايد إيجاد توازن بين الابتكار ومعالجة المخاطر المحتملة المرتبطة بتقنية استنساخ الأصوات. إن الجهود المبذولة من قبل شركات التكنولوجيا والجهات التنظيمية ضرورية في مكافحة عمليات التضليل بواسطة استنساخ الأصوات بالذكاء الاصطناعي وحماية الأفراد من الوقوع ضحية لهذه الأنشطة الاحتيالية.
The source of the article is from the blog scimag.news