تحقیقات اخیر انجمن خیریه کودکان به یک روند نگران‌کننده توجه برانگیز پرداخته است که در آن ابزارهای هوش مصنوعی (AI) تلاش می‌کنند کودکان را سوء استفاده کنند. به گزارش‌ها، یک بخش موجود در تارنمای تاریک به خصوص مشهور برای متقاعد کردن جنایتکاران به استفاده از نرم افزارهایی که می‌توانند لباس از عکس‌ها به طور دیجیتال حذف کنند است.
این سو استفاده شامل دخالت در عکس‌های به نظر معصوم کودکان، معمولاً در زیر لباس‌های آن‌ها، تا عکس‌های صریح با استفاده از فناوری‌های ‘دیپنود’ AI تبدیل شود. این عکس‌های دستکاری شده سپس می‌توانند برای مجبور کردن کودک به ارسال محتواهای نامناسب دیگر استفاده شوند، با تهدیداتی از افشای بیشتر اگر از دستورات آن‌ها پیروی نکنند.
در یک تشدید نگران‌کننده، بنیاد نظارت اینترنت (IWF) اشاره کرد که راهنمایی آنلاین که در کانال‌های پنهان منتشر شده و به افتخار داشتن تقریباً ۲۰۰ صفحه، یک راهنمایی برای عوامل شرور ارائه می‌دهد که چگونه از این ابزارهای مبتنی بر AI به صورت موثر استفاده کنند.
منابع شامل اعلام مضمون نگران‌کننده‌ای از سوی یک نویسنده راهنمای ناشناس که ادعا می‌کند با موفقیت دخترانی حداکثر ۱۳ ساله را به تصاویر عریان مجازی قابل انجام سودجویی کرده است. این راهبرد نگرانی‌های جدی درباره آسانی دسترسی به ابزارهای خلع لباسی AI و سواستفاده از آن‌ها را برانگیخته است.
علاوه بر این، IWF اظهار داشت که در سال ۲۰۲۳ سطوح بی‌سابقه‌ی سوء استفاده‌های آنلاین، با کشف بیش از ۲۷۵،۰۰۰ صفحه‌ی وب حاوی سوء استفاده‌های جنسی از کودک توجه گرفته شده است. این تعداد بالاترین آماری است که این سازمان تاکنون ثبت کرده است، با بخش قابل‌توجهی از این صفحات شامل محتوای ‘دسته A’ شدید که شامل مواردی از سوء استفاده جنسی و خشونت می‌شود.
IWF هزاران تصویر خودتولیدی از سوء استفاده‌های جنسی از کودک را کشف کرده است، جایی که قربانیان به تصویب و یا تهدید به ضبط شکل خود در حین آزار برانگیخته شده‌اند. سوزی هارگریوز، مدیرعامل IWF، بر وجود فوری گفت‌وگوهای مناسب سن با کودکان برای کمک به شناسایی خطرات احتمالی تأکید می‌کند.
به عنوان پاسخ به تهدید روزافزون، دولت انگلیس در حال اندیشیدن در مورد تدابیری برای حفاظت از کودکان آنلاین است، از جمله قانون ایمنی آنلاین که وظیفه مراقبت از شرکت‌های رسانه‌های اجتماعی برای حفاظت از کاربران جوان را الزامی می‌کند. به علاوه، پیشنهادهایی برای افزایش حداقل سن استفاده از رسانه‌های اجتماعی از ۱۳ به ۱۶ و ممنوعیت فروش گوشی‌های هوشمند به کودکان زیر ۱۶ سال وجود دارد.
سوالات و پاسخ‌های مهم:
س: طبیعت سواستفاده مطرح شده در مقاله چیست؟
ج: این سو استفاده شامل استفاده از فناوری ‘دیپنود’ AI برای دیجیتالی کردن عکس‌های به نظر معصوم کودکان برای ایجاد و منتشر کردن تصاویر صریح است. این می‌تواند منجر به تهدید کردن کودکان برای ارسال محتواهای نامناسب دیگر شود.
س: نقش بنیاد نظارت اینترنت در این مساله چیست؟
ج: IWF محتوای آنلاین شامل سوء استفاده جنسی از کودکان را نظارت می‌کند و گزارش می‌دهد. آن‌ها در به توثیق کردن افزایش چنین سوء استفاده‌ای و سوا استفاده از AI در طرح‌های سو استفاده نقش داشته‌اند.
س: چه تدابیری برای مبارزه با این سو استفاده به کار گرفته می‌شود؟
ج: دولت انگلیس در حال در نظر گرفتن قانون ایمنی آنلاین است که شرکت‌های فناوری را ملزم به حفاظت از کودکان در بسترهای خود می‌کند. همچنین پیشنهادهایی برای افزایش حداقل سن استفاده از رسانه‌های اجتماعی و محدودیت فروش گوشی‌های هوشمند به کودکان وجود دارد.
چالش‌ها و اختلافات کلیدی:
– پیشرفت‌های فناورانه: با پیشرفت فناوری AI و افزایش دسترسی به آن، چالشی برای جلوگیری از سوا استفاده‌ها وجود دارد.
– تعادل تنظیمی: یافتن تعادلی بین حفظ آزادی‌های آنلاین و تعیین مقررات برای حفاظت از کودکان بدون مانع گذاری از نوآوری یک چالش مهم است.
– اختیار قانونی جهانی: جرایم در اینترنت مرزها ندارند که قضایی کردن و اجرای قوانین در کشورهای مختلف را پیچیده می‌کند.
مزایا و معایب:
مزایا:
– وقتی به اخلاقی استفاده شود، AI می‌تواند یک ابزار بسیار مفید برای شناسایی و پیشگیری از سوا استفاده از کودکان آنلاین باشد.
– آگاهی و آموزش در مورد قابلیت‌ها و خطرات ابزارهای AI می‌تواند کودکان و بزرگسالان را قادر به محافظت خود در برابر چنین سو استفاده‌هایی کند.
– تدابیر نظاری می‌توانند برای فشار دادن به شرکت‌های رسانه‌های اجتماعی برای اولویت دادن به ایمنی کودکان کمک کند.
معایب:
– ابزارهای AI ممکن است برای عوامل شرور قابل دسترسی و سو استفاده شوند و آسان‌تر از همیشه باعث دستکاری تصاویر برای اهداف نفوذی شود.
– تحمیل مقررات ممکن است منجر به نگرانی‌های حریم شخصی و آزادی بیان در میان کاربران بالغ شبکه‌های اجتماعی شود.
برای آشنایی بیشتر با ایمنی آنلاین و تلاش‌ها برای مبارزه با سو استفاده از کودکان، اینجا پیوندهای پیشنهادی به دامنه‌های اصلی که اطلاعات ارزشمند و منابع ارائه می‌دهند آمده است:
– بنیاد نظارت اینترنت (IWF)
– NSPCC (جمعیت ملی برای پیشگیری از بهانه کودکان)
– دولت انگلیس
– یونیسف
مهم است که توجه داشته باشید که تمام پیوندهای ارائه شده به بغایت شناسه‌ی دامنه و تایید شده تا تاریخ قطع دانش می‌باشد.
The source of the article is from the blog dk1250.com