در حرکتی جسورانه برای افزایش ایمنی آنلاین، شرکت فناوری معروف متا، قابلیت‌های جدید هوش مصنوعی را در اینستاگرام عرضه کرده است که هدف آن محافظت از کاربران جوان در مقابل انکار محتوای عریان و تلاش‌های تهدیدآمیز است. این ویژگی‌ها در حال ظهور است در میان نگرانی‌های رو به افزایش درباره تأثیر منفی رسانه‌های اجتماعی بر سلامت روانی نوجوانان.
هسته اصلی این نوآوری یک ابزار حفاظت از عریانی مبتنی بر هوش مصنوعی است که به صورت خودکار عریانی را در تصاویر ارسال شده از طریق خدمات پیام‌رسانی اینستاگرام شناسایی و مات می‌کند. این امکان را به کودکان می‌دهد تا گزینه‌ی دور زدن محتوای صریح را داشته باشند بدون اینکه مجبور به دیدن آن شوند. اقدام متا، نه تنها یک پدافند فناوری را فراهم می‌کند بلکه همچنین هدایت و مشورت‌های ایمنی برای افرادی که در چنین تبادلاتی شرکت می‌کنند، ارائه می‌دهد.
پاسخ به موج جاری جنایات سکسیولیونی علیه جوانان یک تلاش مجزا نیست. تعداد نگران‌کننده‌ای از نوجوانان در ایالات متحده به چنین تبانی‌ها دچار شده‌اند. علاوه بر این، متا برای اولویت دادن به سودها بر روی سلامتی کاربران جوان، از جمله از ماهیت قانونی تعقیبی که از بیش از ۴۰ ایالت می‌رونده است، مواجه است.
متا تأکید می‌کند که اقدامات حفاظتی بر مجموعه‌ای از ارتقاءها طراحی شده‌اند تا محیطی ایمن‌تر برای کودکان فراهم کنند. این ارتقاءها، به ریچه‌ای بنیادی از یادگیری ماشین بر اساس دستگاه، امکان می‌دهند تا سیستم بر محتواها بازرسی را انجام دهد بدون اینکه به حریم خصوصی کاربران تجاوز کند، همان طور که متا تضمین می‌کند که به تصاویر دسترسی نخواهد داشت، مگر اینکه توسط کاربران منع شوند.
معرفی این ابزار، بخشی از یک راهبرد جامع است برای محدود کردن تعاملات بین شکارچیان بالقوه و نوجوانان، به تصویر کشکایی عمومی و قانونی درباره مسئولیت شرکت در حفاظت از مخاطبان جوان خود می‌پردازد. رویکرد فعال نشانه‌ای از جنبه‌ای نسبت به مدیریت مسئولت‌پذیرتر نسبت به تأثیر پلتفرم بر جوانان، به تصویر جایگاهی شناور از تماس‌های عمیق نظر با تأثیر پلتفرم.
مرور صنعت
صنعت رسانه‌های اجتماعی یک رشد بی‌سابقه را در طول دهه‌ی گذشته دیده است که پلتفرم‌هایی چون اینستاگرام، که متعلق به متا (قبلاً فیسبوک) است، نقش قابل توجهی در شکل‌دهی به تعاملات آنلاین ایفا کرده‌اند. همچنین بر این بازهمیت دارد که به جامعه رفته شود که شرکت‌هایی چون متا برای بهبود تجربه و ایمنی کاربران سرمایه‌گذاری گسترده‌ای در هوش مصنوعی و یادگیری ماشین می‌کنند. این پیشرفت‌ها در شرایطی به وجود آمده‌اند که این قطاع مورد بازبینی درباره نگرانی‌های حریم خصوصی، سایبربولینگ، و تأثیرات حفظترازی رسانه‌های اجتماعی، به خصوص در میان کاربران جوان می‌باشد.
پیش‌بینی‌های بازار
بازار جهانی رسانه‌های اجتماعی که ارزشی در میلیاردها دلار برآورده می‌شود، به ترقیات خود ادامه خواهد داد. افزایش نفوذ اینترنت، افزایش پذیرش گوشی‌های هوشمند و تغییر گزینه‌های تمایلات مشتری همه تا این پیش‌بینی می‌رسند. با این حال، نیاز به تعادل بین رشد و ایمنی کاربران بیش از گذشته، به خصوص برای جمعیت‌های جوان، رو به افزایش است. نوآوری‌ها در هوش‌مصنوعی، مانند ابزار “حفاظت از عریانی” از متا، ممکن است عناصر ضروری در پیشنهاد ارزشی برای شرکت‌های فناوری شوند.
ایشوز مربوط به صنعت
یکی از این ایشوهای بحرانی اطراف صنعت رسانه‌های اجتماعی، ایمنی و رفاه کاربران آن می‌باشد. با نرخ‌های نگران‌کننده سایبربولیینگ، انکار محتوای مضر، نقض‌های حفظترازی، شرکت‌های فناوری در فشار بزرگی برای پیاده‌سازی تدابیر ایمنی قویتر قرار دارند. نیز فشارهای فقهی وجود دارند، ازجمله معرضی از وارد شدن قوانین سختگیرانه حفظت داده که ممکن است بر چگونگی عمل شرکت‌ها اثرات چشمگیری داشته باشد.
در مورد پیاده‌سازی ابزارهای هوش مصنوعی، چشمه‌هایی در تضمین آن وجود دارد که الگوریتم‌های یادگیری ماشین محتوای آفت‌زایی را به درستی شناسایی و فیلتر نماهند بدون اینکه حریم خصوصی به زور یا آزادی بیان تخلیه شود. همواره نگرانی موجود است درباره تبعیض‌پذیری در هوش مصنوعی، که الگوریتم‌ها ممکن است محتوا را بدرستی نشانه گرفته یا دور از نظر گذرانده شوند، به مواردی از جنبه‌های جدید رهیافت به وجود خواهد آمد.
رویکرد متا به یکپارچگی هوش مصنوعی برای ویژگی‌های ایمنی اینستاگرام، ممکن است استاندارد صنعتی را برای شرکت‌های رسانه‌های اجتماعی برای چگونگی برخورد با ایمنی، به ویژه برای کاربران جوان که ممکن است به خطرات آنلاین حساس‌تری بیافتند، قرار دهد. سرمایه‌گذاری‌های آنها بر ایمنی و اعتالم به حریم خصوصی یک تالش برای پیروی از مثال است و احتمالاً برخی از انتقادات را که رو به رو هستند، با رساندن حساب کاربری خود، از بین ببرند.
برای آگاهی بیشتر از رسانه‌های اجتماعی و پیشرفت‌های هوش مصنوعی در صنعت، می‌توانید به منابع اعتباری مانند متا برای اعلان‌های مربوط به شرکت و به Wired برای اخبار فناوری و پیشرفت‌ها مراجعه کنید.
پاسخ عمومی و نظارتی به ویژگی‌های جدید متا قابل توجه خواهد بود و احتمالاً تأثیر خواهد گذاشت بر اینکه چگونه شرکت‌های دیگر در حوزه رسانه‌های اجتماعی استراتژی‌های خود را برای ایمنی کاربر و مدیریت پلتفرم مسئولانه توسعه می‌دهند. با پیشرفت فناوری یادگیری ماشین، ممکن است روش‌های جدیدی برای مرتب کردن چالش‌های ایمنی آنلاین پیشنهاد شوند، که ممکن است به تبدیل به یک بخش اساسی از تعهد صنعت به حفاظت از کاربران خود، به ویژه جمعیت‌هایی که به حداقل خطرات موضوعی آنلاین قرار دارند، منتهی شود.
The source of the article is from the blog agogs.sk