تصور کنید یک دنیا که دیگر نمی‌توانید به آنچه را در اینترنت می‌بینید و می‌شنوید اعتماد کنید. یک دنیا که در آن سلبریتی‌ها محصولاتی را تحت حمایت قرار می‌دهند که حتی تا به حال ندیده‌اند، و کلاهبرداران از مصرف‌کنندگان بی‌خبر سود می‌کنند. به خوش آمدید به دنیای AI deepfakes.
صعود هوش مصنوعی با خود موجی جدید از تبلیغات گمراه‌کننده را به همراه آورده است. فناوری Deepfake به جعل ویدیوها امکان می‌دهد که به نظر برسد سلبریتی‌ها محصولاتی را تحت حمایت قرار داده‌اند، در حالی که در واقع، این حمایت‌ها کاملاً ساختگی است. با چند کلیک ساده، کلاهبرداران می‌توانند فایل‌های صوتی، ویدیویی، و تصاویر ثابتی تولید کنند که تقریباً از چیز واقعی قابل تمییز نیستند.
هر چند حمایت‌های ساختگی از سلبریتی‌ها تازه به‌وجود آمده نیستند، اما کیفیت ابزارهای استفاده شده برای ایجاد آن‌ها به شدت بهبود یافته است. آنچه که قبلاً یک بیانیه ساده از حمایت بود، اکنون می‌تواند با یک ویدیو قناعت‌آوری پشتیبانی شود که به نظر می‌رسد این را اثبات می‌کند. این منجر به افزایش کلاهبرداری‌ها و نگرانی‌های رو به گسترش درباره اصالت محتوای آنلاین شده است.
“هنوز به اندازه بزرگی نیست، اما فکر می‌کنم هنوز هم بسیاری از آن پتانسیل وجود دارد که به دلیل فناوری که هر روز بهتر و بهتر می‌شود، بیشتر بشود.”، اظهارات کالین کمپل، استاد همکار بازاریابی در دانشگاه San Diego.
پیامدهای AI deepfakes فراتر از تبلیغات گمراه‌کننده است. از آن برای ایجاد تماس‌های رباتیک جعلی با صدا‌های شخصیت‌های سیاسی، منتشر کردن تصاویر جنسی سلبریتی‌ها، و حتی تلاش برای تحکیم کمپین‌های انتخاباتی استفاده شده‌اند. حال حاضر بار مسئولیت بر دوش افراد است تا بین آنچه واقعی است و آنچه نیست را تشخیص دهند، یک کاری که به شدت دشوارتر شده است.
هر چند هنوز برخی از نشانه‌ها که می‌توانند به تشخیص ویدیوهای deepfake کمک کنند، مانند عدم ستگی در حرکات لب یا عدم حضور نقص‌ها در گفتار انسانی، وجود دارند، اما فناوری به سرعت پیشرفت می‌کند. متخصصان پیش‌بینی می‌کنند که تنها در چند سال آینده، تفاوت بین یک ویدیو واقعی و یک deepfake تقریباً غیرممکن خواهد بود.
زمانی که AI deepfakes ادامه یافته و قانونی تر و قناعت‌آورتر شوند، امری حیوی است که پلتفرم‌های رسانه‌های اجتماعی و شرکت‌های فناوری در مکانیزم‌های تشخیص قوی سرمایه‌گذاری کنند. مسئولیت حفاظت از مصرف‌کنندگان در برابر محتوای گمراه‌کننده نباید تنها بر دوش افراد بماند. بدون تنظیمات صحیح و اقدامات قابل انجام، تهدید AI deepfakes تنها ادامه خواهد داشت و به تغلیظ اعتماد و اصالت در منظر دیجیتال می‌انجامد.
The source of the article is from the blog myshopsguide.com