در عصر دیجیتال، ظهور هوش مصنوعی (AI) صنایع مختلفی از جمله ادبیات و تحقیقات علمی را ثور می‌دهد. پلتفرم‌هایی مانند گوگل بوکس و گوگل اسکالر به منابع اصلی برای یافتن اطلاعات در زمینه‌های مختلف تبدیل شده‌اند. با این حال، گزارش‌های اخیر نشان می‌دهند که یک توسعه نگران‌کننده در حال رخ دادن است: نفوذ کتب تولید شده توسط هوش مصنوعی به این پلتفرم‌ها که خط میان محتوای تولید شده توسط ماشین و نویسندگی انسانی را مبهم می‌کند.
کتب تولید شده توسط هوش مصنوعی توجه پژوهشگران در 404 Media را به خود جلب کرده‌اند، که از یک روش زیرکانه برای شناسایی این انتشارهای نامطلوب استفاده کردند. با تجزیه و تحلیل عبارت “براساس آخرین بروزرسانی دانش من” که به طور رایج در ChatGPT شرکت OpenAI مورد استفاده قرار می‌گیرد، آنها کتبی را در گوگل بوکس پیدا کردند که به نظر می‌رسد کاملاً توسط هوش مصنوعی نوشته شده‌اند. با این حال، برخی از کتب به عنوان نقطه مرجعی برای محدودیت‌های ChatGPT اشاره می‌کنند، اما بسیاری دیگر با اصرار محتوای تولید شده توسط هوش مصنوعی را به عنوان کار انسانی اصلی معرفی می‌کنند.
با کشف این پدیده، آشکار شد که برخی از کتب تولید شده توسط هوش مصنوعی طراحی شده‌اند تا از اثرات واقعی ادبی حقیقی شبیه‌سازی کنند. به عنوان مثال، یک کتابی که به بحث درباره انفجار ماراتن بوستون می‌پرداخت، عبارت “بر اساس آخرین بروزرسانی دانش من در سپتامبر 2021، مورد همچنان موضوع برگزاری مراحل قانونی می‌باشد و نتیجه نهایی هنوز معلوم نیست.” را در برداشته بود. عجیب است که نویسنده این کتاب ادعا کرده بود که 50 عنوان دیگر در مورد موضوعاتی مانند جنگ سرد، ۹/۱۱، پدران بنیانگذار امریکا، روم باستان، بوکسوران مشهور و سرشناسان سرزمین سرخ‌پوستان نوشته است.
ویژگی کتب تولید شده توسط هوش مصنوعی تعداد و سرعت چاپ است. همه 50 عنوان در سال 2023 منتشر شدند، کاری که حتی نویسندگان تجربه‌دار باید با چالش روبه‌رو می‌شدند. به علاوه، این کتب به طور معمول در دامنه 50 تا 100 صفحه جنه و اغلب داستان‌های کم‌عمقی ارائه می‌دهند که به جای اثرهای تحقیق شده به خوبی ورودی‌های ویکی‌پدیا را به یاد می‌آورند.
به طرز نگران‌کننده‌ای، این انتشارات مجازی آماده خرید از فروشندگان آنلاین اصلی از جمله آمازون هستند. این افزایش محتوای تولید شده توسط هوش مصنوعی حداش الایی از اعتبار منابع اعتمادی مانند گوگل بوکس را از بین می‌برد و موجب نگرانی در میان دانش‌آموزان و پژوهشگران می‌شود.
این موضوع به کتب ناقلا شده و به دنیای تحقیقات علمی نیز ریخته شده است. گوگل اسکالر، یک پلتفرم شناخته شده به خاطر مجموعه‌ای از مقالات علمی، نیز توسط محتوای تولید شده توسط هوش مصنوعی نفوذ کرده است. جستجو برای عبارت “بر اساس آخرین بروزرسانی دانش من” در گوگل اسکالر منجر به لیستی گسترده از نتایج در زمینه‌های مختلفی مانند جوانان در معرض خطر، دیابت، اوتیسم، COVID-19 و خستگی پیلوت‌های هواپیما می‌شود. اختلاط نتایج تحقیقات مصنوعی با تحقیقات معتبر شرایط نگران‌کننده‌ای را برای توثیق منابع علمی ایجاد می‌کند.
هنگامی که در مورد این مسئله سوال شد، گووگل اعلام کرد که ادامه می‌دهد بررسی خود را در منظری مداوم رونق چاپ کتاب اما هیچ برنامه‌ای برای حذف نتایج تولید شده توسط هوش مصنوعی از جست‌وجو ذکر نشد.
ظهور محتوای تولید شده توسط هوش مصنوعی سوالات مهمی در مورد اعتبار، کیفیت و قابلیت اعتماد منابع اینترنتی برمی‌انگیزد. با پیشرفت تکنولوژی و افزایش پیچیدگی هوش مصنوعی، امر حیاتی است که مکانیسم‌های موثری برای تشخیص محتوای تولید شده توسط انسان و ماشین توسعه دهیم. این چالش نیازمند همکاری بین شرکت‌های تکنولوژی، پژوهشگران و ناشران است تا اطمینان پذیرایی از سلامت در دنیای دیجیتال را مشترک ایجاد کنند.
سوالات متداول
The source of the article is from the blog regiozottegem.be