گروهی از پژوهشگران دانشگاه شیکاگو، ابزاری مبارزه‌ای پیشرفته به نام نایشید ۱.۰ را به منظور مقابله با استفاده غیرمجاز از مدل‌های یادگیری ماشین ، معرفی کرده است. این ابزار به همراه گلاز، یک ابزار دفاعی حفاظتی که قبلاً توسط The Register پوشش داده شده است، کار می کند.
نایشید به طور خاص برای تارگتینگ فایل‌های تصویری طراحی شده است و هدف آن اجبار مدل‌های یادگیری ماشین به رعایت حقوق خالقان محتواست. با تغییر داده‌های تصویر، نایشید برای مدل‌هایی که محتوای غیرمجاز را می‌خورند، اختلالات ایجاد می کند. این ابزار تغییرات قابل رویت را در تصویر اصلی برای چشم انسان به حداقل می‌رساند در حالی که مدل‌های هوش مصنوعی را به اشتباه می‌اندازد. به عنوان مثال، تصویری برای انسان ممکن است به صورت تصویری سایه‌دار از یک گاو در مزرعه‌ای سبز نشان داده شود، اما یک مدل هوش مصنوعی ممکن است آن را به عنوان یک کیف دستی که روی چمن خوابیده است، تفسیر کند.
تیم نایشید شامل دانشجویان دکتری دانشگاه شیکاگو، شان شان، ونکسین دینگ، جوزفین پاسانانتی و همچنین استادان هدر ژنگ و بن زاوا هستند. آنها جزئیات نایشید را در یک مقاله پژوهشی اکتبر ۲۰۲۳ منتشر کرده اند. تکنیک استفاده شده در نایشید یک حمله مسماه با سم سهیم است که در طول آموزش مدل، تصاویر عمدتاً به طور دلiberatemanipulated به شکلی تغییر یابند که مرزهای برچسب‌های حقیقی خود را مات می‌کند.
معرفی نایشید به عنوان پاسخی به نگرانی‌های روزافزون در مورد برداشت غیرمجاز داده‌ها است که به چندین دعوای قانونی بین خالقان محتوا و کسب و کارهای هوش مصنوعی منجر شده است. پژوهشگران ادعا می‌کنند که نایشید می‌تواند به عنوان یک ابزار قدرتمند برای صاحبان محتوا باشد تا از آموزش‌دهندگان مدل‌هایی که اعلانات کپی رایت و سایر فرم‌های مجوز را نادیده می‌گیرند، مالکیت معنوی خود را حفاظت کند.
مهم است که توجه کنید که نایشید محدودیت‌هایی دارد. این نرم افزار می‌تواند تغییراتی ظریف را نسبت به تصویر اصلی ایجاد کند، به خصوص برای کارهای هنری با رنگ‌های یکنوا و پس زمینه صاف. علاوه بر این، روش هایی برای پیشگیری از نایشید در آینده ممکن است توسعه داده شود، اما پژوهشگران معتقدند که می توانند نرم افزار خود را به طور مشخص سازی کنند.
تیم پیشنهاد می کند هنرمندان از گلاز در ترکیب با نایشید برای حفظ سبک بصری خود استفاده کنند. در حالی که نایشید بر روی داده‌های تصویری تمرکز می‌کند، گلاز تصاویر را در این راستا تغییر می‌دهد تا از مدل‌ها جلوگیری کند که سبک بصری یک هنرمند را تکثیر کنند. با حفظ هم محتوا و سبک کارشان، هنرمندان می توانند سمت برند خود را حفظ کرده و از تکثیر غیرمجاز هویت هنری خود جلوگیری کنند.
اگرچه نایشید و گلاز در حال حاضر نیاز به بارگیری و نصب جداگانه دارند، اما تیم در حال کار بر روی توسعه یک نسخه ترکیبی است تا فرآیند برای خالقان محتوا آسان تر شود.
سوالات شایع درباره نایشید:
س: نایشید ۱.۰ چیست؟
ج: نایشید ۱.۰ ابزاری مجروحکار تزریق اطلاعات است که توسط پژوهشگران دانشگاه شیکاگو توسعه داده شده است تا با استفاده غیرمجاز از مدل‌های یادگیری ماشین مبارزه کند.
س: هدف نایشید چیست؟
ج: نایشید برای اجبار مدل‌های یادگیری ماشین به رعایت حقوق خالقان محتوا طراحی شده است به این صورت که داده‌های تصویر را تحریف کرده و اختلالاتی برای مدل‌هایی که محتوای غیرمجاز را می‌خورند ایجاد می کند.
س: نایشید چگونه کار می کند؟
ج: نایشید با کمینه کردن تغییرات قابل مشاهده در تصویر اصلی، مدل‌های هوش مصنوعی را گیج می‌کند. این ابزار داده‌های تصویر را به گونه‌ای تغییر می‌دهد که ممکن است انسان آن را به عنوان یک چیزی مشاهده کند، درحالیکه مدل‌های هوش مصنوعی آن را به طریق دیگری تفسیر می کنند.
س: نایشید توسط چه کسی توسعه داده شد؟
ج: تیمی که در پشت نایشید قرار دارد شامل دانشجویان دکتری دانشگاه شیکاگو، شان شان، ونکسین دینگ و جوزفین پاسانانتی هستند، همچنین از دانشجویان هستر ژنگ و بن زاو صحبت شده است.
س: آیا در مورد نایشید مقاله‌ای منتشر شده است؟
ج: بله، پژوهشگران جزئیات نایشید را در مقاله‌ای که در اکتبر ۲۰۲۳ منتشر شده است، شرح داده‌اند.
س: حمله مسماه با سم سهیم چیست؟
ج: نایشید از یک تکنیک حمله مسماه با سم سهیم استفاده می کند تا در طول آموزش مدل‌ها، تصاویر به طور هدایت شده عمداً به گونه‌ای تغییر یابند که مرزهای برچسب‌های حقیقی آنها را مات کنند.
س: نایشید به چه مشکلی میخواهد پاسخ دهد؟
ج: نایشید به علت نگرانی ها در مورد برداشت غیرمجاز داده ها، در روند ایجاد دعاوای قانونی بین خالقان محتوا و کسب و کارهای هوش مصنوعی توسعه یافته است.
س: محدودیت های نایشتید چیستند؟
ج: نایشید می‌تواند تغییرات ظریفی را در تصویر اصلی ایجاد کند، به ویژه برای آثار با رنگ‌های یکنوا و پس زمینه صاف. در آینده، روش هایی جهت مبارزه با نایشتید توسعه داده می‌شوند، اما پژوهشگران معتقدند که می توانند نرم افزار خود را به طور معتبر با چ
The source of the article is from the blog mivalle.net.ar