متا، شرکت مادر فیسبوک، اینستاگرام و تردز (Threads) در حال اقدام برای شناسایی و برچسبگذاری تصاویری که توسط هوش مصنوعی تولید شدهاند روی پلتفرمهای خود است. این تحرک بخشی از تلاشهای متا برای مقابله با فریب و بازپرسی کسانی است که قصد فریب دادن دیگران را دارند. در حال حاضر، تصاویر فتورئالیستی تولید شده توسط هوش مصنوعی متا هم اکنون به عنوان چنین شناخته شدهاند. با این حال، در یک ارسال وبلاگ اخیر، نیک کلگ، رئیس مهمانی های جهانی متا، اعلام نمود که این شرکت قصد دارد به برچسبگذاری تصاویر تولید شده توسط هوش مصنوعی در سرویسهای رقیب نیز ادامه دهد.
با اینکه تصاویر تولید شده توسط هوش مصنوعی در متا هم اکنون دارای دادههای متا و نشانههای آب نامرئی هستند که اصالت هوش مصنوعی را نشان میدهند، اما شرکت در حال توسعه ابزارهایی برای تشخیص این نشانگرها در استفاده شده توسط سازمانها و شرکتهای دیگری مانند گوگل، OpenAI، مایکروسافت، ادوبی، Midjourney و شاتراستوک است. با تعیین و برچسبگذاری محتوای تولید شده توسط هوش مصنوعی، متا قصد دارد به خط فاصله مبهم بین محتوای انسانی و مصنوعی پرداخته و کاربران را درباره فناوری پشت تصاویری که با آنها مواجه میشوند شفاف سازد.
در ماههای آینده، متا قصد دارد این برچسبها را بر روی همه زبانها اعمال نماید. این شرکت اهمیت این تلاش را که به ویژه در دورههای مهم انتخابات جهانی در سال آینده رخ داده، ادراک کرده است. با این حال، لازم به ذکر است که در حال حاضر برچسبگذاری محدود به تصاویر است و محتوای صوتی و ویدئویی تولید شده توسط هوش مصنوعی این نشانگرها را شامل نمی شود.
علاوه بر برچسبگذاری، متا قصد دارد برچسبهایی برجستهتر را بر روی تصاویر، ویدئوها، یا صداهایی که باعث فریب جدی عموم میشوند، قرار دهد. علاوه بر این، این شرکت در حال بررسی توسعه فناوری است که بتواند به صورت خودکار محتوای تولید شده توسط هوش مصنوعی را تشخیص دهد، حتی در صورتی که این نشانگرهای نامرئی حذف شده یا وجود نداشته باشند.
کلگ به ماهیت رقابتی این حوزه و نیاز به نوآوری مداوم برای پیشروی در مقابل کسانی که قصد فریب با محتوای تولید شده توسط هوش مصنوعی را دارند، اشاره کرد. زیرا فیکس عمیق هوش مصنوعی در دوره انتخابات ریاست جمهوری آمریکا هم اکنون ظاهر شده و مواردی مانند تغییر تصویر مورد جدل در استرالیا رخ دادهاند. تشخیص و برچسبگذاری محتوای تولید شده توسط هوش مصنوعی، ضروری است تا بتوان به شیوع شیوع شکلهای فریبنده پاسخ داد.
با تسهیل شفافیت و ارائه اطلاعاتی درباره طبیعت محتوایی که کاربران با آنها روبرو میشوند، متا قصد دارد محیطی دیجیتال ایمنتری ایجاد نماید تا افراد بتوانند با مسئولیت ناوبری کنند و با رسانه ها در ارتباط باشند.
سوالات متداول:
The source of the article is from the blog japan-pc.jp