پیشرفت‌هایی که OpenAI در تولید و تشخیص تصاویر به وسیله هوش مصنوعی برای محتوای اصیل داشته است
پیشرفت سریع ابزارهای تولید تصویری مبتنی بر هوش مصنوعی (AI) منجر به ایجاد تصاویری شده که از آن‌هایی که توسط روش‌های سنتی ضبط شده‌اند یا توسط هوش مصنوعی ایجاد نشده‌اند، قابل تمییز نیست، شده است. نگرانی‌ها درباره مزاحمت یا سوءاستفاده از افراد از چنین تصاویری افزایش یافته است.
OpenAI آب‌نشانی‌ها را پیاده‌سازی کرده و ابزارهای تأیید را توسعه می‌دهد
مهم است که اقدام OpenAI برای جاسازی آب‌نشانی در داخل تصاویری که توسط برنامه‌اش، DALL-E 3، ساخته شده باشند، توجه ویژه‌ای به خود جلب می‌کند. این تدابیر هدف دارند که شفافیت درباره منشأ تصاویر حفظ شود تا اعتبار آنها رعایت شود.
تأیید هویت در محتوای دیجیتال
برای افزایش اطمینان از اصالت محتوا، OpenAI در اتحادیه‌های صدور مدرک منبع و اصالت محتوا (C2PA)، یک استاندارد گسترده برای صدور گواهی محتواهای دیجیتال شرکت کرده است. این فرصتی برای خالقان فراهم می‌کند تا محتوایشان را برچسب‌زنی و تصدیق کنند تا منابع واقعی آنها را تأیید کنند. به‌علاوه، OpenAI اعلام کرده است که قصد دارد داده‌های شناسایی C2PA را به برنامه آینده خود، یعنی Sora، ادغام کند، که یک مدل برای تبدیل متن به ویدئو طراحی شده است و انتظار می‌رود که در سال 2024 عرضه گسترده‌تری داشته باشد.
ابزار تشخیص AI برای مبارزه با تصاویر تقلبی
OpenAI در حال توسعه یک ابزار تازه قدرتمند مبتنی بر هوش مصنوعی برای تشخیص تصاویری است که توسط DALL-E 3 تولید شده‌اند. این ابزار می‌تواند احتمال تولید مصنوعی تصویر را پیش‌بینی کند و برای کار کردن طراحی شده است حتی اگر تصویر فشرده شود، تنظیمات اشباع اعمال شود یا قرار داده شود. هدف این ابزار این است که در مقابل تلاش‌هایی که برای مخفی کردن منشأ محتوا انجام می‌شود، مقاوم باشد.
با نرخ دقت گزارش‌شده 98% در شناسایی تصاویر تولیدشده توسط DALL-E و به‌ویژه، عدم گمان‌کردن به تصاویر اصلی به عنوان تصاویر تولیدشده توسط هوش مصنوعی، OpenAI به ارایه دسترسی به این ابزار تشخیص برای یک گروه ابتدایی از تسترها، از جمله آزمایشگاه‌های تحقیقاتی و سازمان‌های روزنامه‌نگاری تحقیقی، راه‌اندازی کرده است. این گام جزء یک برنامه دسترسی محققان است که به دست‌آوردن بازخورد و بهبود کارایی ابزار هدفمند است.
سوالات مرتبط و پاسخ‌ها
1. چرا آب‌نشانی‌گذاری برای تصاویر تولیدی توسط AI مهم است؟
آب‌نشانی‌گذاری برای تصاویر تولیدی توسط هوش مصنوعی برای حفظ شفافیت و کمک به کاربران برای تمایز بین محتوایی که توسط AI ایجاد شده و آنچه توسط انسان تولید شده، حیاتی است. در دوران دیپ‌فیک و اطلاعات گمراه‌کننده، این حیاتی است که نشانگرهای واضحی از منشأ تصویر وجود داشته باشد تا اعتبار حفظ شود و در برابر استفاده‌ی فریبنده محافظت شود.
2. چه چالش‌های اصلی مرتبط با تشخیص محتوای تولیدی توسط AI وجود دارد؟
یک چالش مهم، پیشروی روش‌های طراحی‌شده برای اینکه از دستگاه‌های تشخیص عبور کنند، است. با رشد فناوری AI، روش‌هایی برای افزایش پیچیدگی تصاویر تولیدشده توسط AI و سخت‌تر شدن تشخیص آنها توسعه می‌یابد. اطمینان حاصل کردن از اینکه تشخیص‌دهنده در برابر اشکال تازهٔ تسلط‌ها موثر است، جنگ ادامه‌داری است.
3. آیا اختلاف‌نظری درباره ابزارهای تشخیص تصاویر توسط AI وجود دارد؟
بله، اختلافات درباره حریم خصوصی و اینکه آیا ابزارهای تشخیص AI برای نظارت مورد استفاده قرار می‌گیرند یا نه، وجود دارد. خط باریکی بین تشخیص محتوای تقلبی و نقض حقوق حریم خصوصی افراد وجود دارد. اطمینان حاصل کردن از اینکه این ابزارها به شکل اخلاقی و مسئولانه استفاده می‌شوند، موضوعی بحث برانگیز است.
مزایا و معایب
مزایا:
– افزایش توانایی حفظ اصالت و قابل اعتماد بودن دیجیتال.
– کمک به مبارزه با اطلاعات اشتباه و گسترش دیپ‌فیک‌ها.
– کمک به حفاظت از افراد در برابر سوءاستفاده از محتواهای تولیدشده توسط AI.
– می‌توانند اعتبار روزنامه‌نگاری را با تأیید تأییدی از تصاویر مورد استفاده در گزارش جلوه دهند.
معایب:
– نگرانی‌های مربوط به حریم خصوصی اگر ابزارهایی برای نظارت یا اهداف نافوقی مورد سوءاستفاده قرار گیرند.
– سیستم آب‌نشانی ممکن است مورد نقد قرار گیرد؛ افراد ماهر ممکن است یاد بگیرند که چگونه آب‌نشانی‌ها را حذف یا تغییر دهند.
– دتکتورهای محتوای تولیدشده توسط AI ممکن است به‌زودی مغشوش شوند تا زمانی که تکنیک‌های رسانه‌های مصنوعی پیشرفت کنند.
– ممکن است مشورت‌های حقوقی و اخلاقی درباره استفاده از AI برای نظارت بر محتوای دیجیتال وجود داشته باشد.
پیوند مرتبط پیشنهادی
می‌توانید به وب‌سایت OpenAI مراجعه کنید تا بیشتر در مورد آخرین پروژه‌ها و پیشرفت‌های فناوری AI این شرکت مطالعه کنید: OpenAI.