برانگیخته‌های سریع فن‌آوری ، هم اثرات مثبت و هم منفی بر جامعه آورده است. یک روند نگران‌کننده که ظاهر شده این استفاده از برنامه‌های هوش مصنوعی (AI) توسط دانش‌آموزان برای ایجاد تصاویر عریان است. یک گزارش دولتی اخیر این مسئله را برجسته کرده و هشدار می‌دهد که نه تنها کودکان این برنامه‌ها را دانلود می‌کنند، بلکه تصاویر را به طور غیر قانونی با دوستان خود به اشتراک گذاشته‌اند. علاوه بر این، گروه‌های جنایت‌آمیز از این برنامه‌ها برای تهدید کودکان با تصاویر صریح ساخته شده توسط کامپیوتر سوءاستفاده می‌کنند.
این گزارش، نوشته شده توسط شورای ایمنی اینترنت انگلیس، راهنمایی برای معلمان در خصوص چگونگی رفع این مشکل از جمله نحوه برخورد با دانش‌آموزان که تصاویر صریح را به اشتراک می‌گذارند، ارائه می‌دهد. این شورا بر لزوم با دقت رو به رو شدن با تصاویر ایجادی توسط AI، deepfakes و “sextortion” تاکید دارد. این شامل خودداری از مشاهده یا حذف تصاویر، فوراً تماس با مقامات، و در موارد خاص عدم اطلاع‌رسانی به والدین می‌شود.
قطب‌ها و متخصصان به این رهنمود خوش‌آمد گفتند، اما خواسته‌هایی برای انجام اقدامات سختگیرانه‌تر توسط نهادهای نظارتی مانند Ofcom وجود دارد که جلوی گسترش عکس‌های عریان AI را می‌گیرد. نقادان می‌گویند که نیاز به رویکرد فعال‌تر و جامع‌تری برای مهار گسترش عکس‌های عریان AI وحشتناک وجود دارد. در حال حاضر قانونیست که بخواهید عکس‌های پورنو deepfake یا تصاویر عریان AI بزرگسالان را بدون رضایت آن‌ها به اشتراک بگذارید. همچنین تهدید به اشتراک گذاری چنین محتوایی ممنوع است. با این حال، ایجاد تصاویر عریان AI بزرگسالان قانونی است. از سوی دیگر، قانون به وضوح ایجاد، داشتن و به اشتراک گذاری تصاویر عریان یا جنسی کودکان، شامل عکس‌های تولید شده توسط AI نیز، را به عنوان سوا استفاده از کودکان تشویق می‌کند.
استفاده غیرقانونی از برنامه‌های AI برای تولید تصاویر عریان، موجب نگرانی متخصصان شده است که منجر به افزایش استفاده از زنان و دختران می‌شود. دو سناریو اصلی توسط پروفسور کلری مک‌گلین از دانشگاه دورهم تشخیص داده شده است: پسران جوان که از این برنامه‌ها برای ساختن تصاویر مصنوعی از دوستان زن خود برای معامله و به اشتراک گذاشتن استفاده می‌کنند، و کلاهبرداران سازمان‌یافته که تصاویر عریان deepfake تولید می‌کنند و از آن‌ها برای تهدید مالی استفاده می‌کنند. پروفوسور مک‌گلین بر تاکید متعدد در مورد بزرگراه‌های بانگیی در این خصوص تاکید دارد و به قربانیان توصیه می‌کند تا تجربیات خود را بدون ترس از سنگ‌زنی گزارش دهند.
گزارش دولت افزایش قابل توجهی در موارد “sextortion” بر اثر استفاده از برنامه‌های AI را تأیید می‌کند، اما همچنین عموم را از پیگیری دقیق ایمنی آنلاین اطمینان داده است. به گفته یک سخنگوی دولت، قانون ایمنی آنلاین پوشش قویی برای کودکان فراهم می‌کند و به اشتراک‌گذاری تصاویر تهذیبی deepfake بدون رضایت را جرمی محکوم کرده است. پلتفرم‌های رسانه‌های اجتماعی نیز مسئولیت‌های جدیدی را برای جلوگیری از گسترش محتوای غیرقانونی به دوش داده‌اند، با جریمه‌های پتانسیلی به میلیاردها پوند.
با توجه به این تحولات، بحث‌هایی درباره تدابیر ممکن برای رفع این مسئله وجود دارد. به گزارش پیتر کایل، دبیر علمی کارگر، در حال مدنظر قرار دادن قطع دسترسی به برنامه‌های nudification و تکنولوژی deepfake است. سوزی هرگریوز، مدیرعامل بنیاد نظارت اینترنت، تهدید جدی توسط فناوری AI در دست جنایت‌کاران را تأکید کرده و از عمل جمعی برای حفاظت از کودکان در برابر بهره‌برداری و سواستفاده خواستار شده است.
سوالات متداول
The source of the article is from the blog krama.net