یک خبرنگار آمریکایی شگفت‌انگیزاً روند ساخت یک وبسایت خبری جعلی مبتنی بر هوش مصنوعی چقدر ساده و هزینه‌ای است، و پیامدهای جدی این اقدامات در دوره‌های انتخابات را برجسته کرده است. جک بروستر، که در حال حاضر سرپرست NewsGuard— یک شروع‌کننده جدید برای پیگیری اطلاعات غلط آنلاین است—به اشتراک گذاشته تحلیل‌های خود را در یک مقاله روزنامه Wall Street Journal به نام “چگونه یک ماشین تبلیغاتی خودکار، مبتنی بر هوش مصنوعی، برای هزینه‌ای ۱۰۵ دلاری ایجاد کردم”.
در مدت ۴۸ ساعت و با سرمایه‌گذاری فقط بیش از ۱۰۰ دلار، بروستر توانست یک وبسایت خبری محلی کاملاً خودکار، مبتنی بر هوش مصنوعی راه‌اندازی کند. این خبرنگار این کار را بدون داشتن دانش فنی موفقیت آمیز انجام داد، به جای آن از خدمات یک توسعه‌دهنده وب که روی یک پلتفرم آزاد در دسترس بود استفاده کرد. هدف او ساختن یک سایت به منظور انتشار داستان‌های سیاسی جعلی بود که ممکن است فرآیند انتخاباتی در ایالات متحده را خنثی کند.
توسعه‌دهنده‌ای که بروستر انتخاب کرده بود، یک پاکستانی بالغ بر سی ساله و زیر نظرات خوبی بود، تنها چند خط کد و کمک از ابزارهای هوش مصنوعی تولید کننده مانند ChatGPT را برای راه‌اندازی سایت به نام “The Buckeye State Press” نیاز داشت. این وبسایت نه تنها قدرت اغفال خوانندگان و رأی‌دهندگان را داشت، بلکه از طریق الگوریتم‌های تبلیغات هدفمند مشابه آنچه که شرکت‌هایی مانند گوگل استفاده می‌کنند، قادر به تولید درآمد تبلیغاتی قابل توجهی بود.
هزینه کل راه‌اندازی این پلتفرم خبر ساختگی فقط ۱۰۵ دلار بود— ۸۰ دلار برای تلاش‌های توسعه‌دهنده و ۲۵ دلار برای نام دامنه و میزبانی. در عمل، سایت به طور خودکار ده‌ها مقاله روزانه تولید می‌کرد، مطابق دستورات بروستر، که در یک نقطه تغییر کرده بودند تا مایل به شرود براون، رقیب سیاسی برنی مورنو، باشند.
زیرگاه بروستر واقعیت نگران کننده که ایجاد و ترویج اطلاعات جعلی در اینترنت می‌تواند چنین ساده و ارزان باشد را برجسته کرد، به طور همزمان با تهدیدی که برای صداقت اطلاعات باورپذیر وجود دارد. NewsGuard بیش از هزار وبسایت چنین شبیه‌سازی می‌کنند که خود را سایت‌های خبری محلی مستقل معرفی می‌کند، اما در واقع توسط برنامه‌های سیاسی تحریک شده‌اند.
– proliferation of fake news: گسترش اخبار جعلی توسط پایگاه‌های اجتماعی افزایش یافته است، جایی که الگوریتم‌ها اغلب محتوای حساس را بدون توجه به صحت آن، تقویت می‌کنند.
– spread of misinformation: گسترش اطلاعات غلط می‌تواند پیامدهای واقعی دنیایی نظیر تأثیر گذاری بر نظر عمومی، تحریک اعمال خشونت و خنثی کردن اعتماد به نهاد‌ها را داشته باشد.
– deep learning and NLP technologies: توسعه فناوری‌های یادگیری عمیق و پردازش زبان‌طبیعی باعث ایجاد مدل‌های هوش مصنوعی پیشرفته می‌شود که قادر به تولید متون انسان‌مانند قابل معقول بوده و در نتیجه، مانع برای ایجاد خبرهای جعلی قابل اطمینان کمتر از همیشه می‌شود.
چالش‌های کلیدی در مبارزه با اخبار جعلی تولید شده توسط هوش مصنوعی چیست؟
مبارزه با اخبار جعلی تولید شده توسط هوش مصنوعی به دلیل مقیاس و سرعتی که چنین اخباری می توانند در اینترنت گسترش یابند، چالش برانگیز است. تفاوت قائل شدن بین اطلاعات قابل اطمینان و اطلاعات غلط نیازمند الگوریتم‌های پیچیده و اغلب تأیید انسانی است که این را تمرین کند، که باعث می شود این یک وظیفه مصرف‌منابع باشد. همچنین، با تکامل فناوری هوش مصنوعی، اخبار جعلی مایه‌های قناعت‌آور تری دارند که شناسایی آنها حتا دشوار‌تر می‌شود.
چه اختلافاتی با هوش مصنوعی و اخبار جعلی وجود دارد؟
جدل‌ها شامل مسائل اخلاقی پیرامون آزادی بیان و مسئولیت شرکت‌های فناوری در میان کردن محتوا است. همچنین، بحثی در مورد احتمالی تبعیض در الگوریتم‌های استفاده شده برای شناسایی اخبار جعلی و نحوه تأمین حقوق حریم خصوصی و دسترسی به اطلاعات مقابل نیاز به جلوگیری از گمراه‌کردن آنها وجود دارد.
مزایای هوش مصنوعی در تولید خبر:
– کارایی: هوش مصنوعی می تواند به سرعت و با هزینه کمتر مقاله تولید کند.
– حجم: هوش مصنوعی می تواند حجم زیادی از محتوا ایجاد کند که برای پوشش دادن دامنه وسیعی از مباحث یا برای شرکت‌های رسانه‌ای که به قصد افزایش خروجی محتوا هستند، مفید باشد.
معایب هوش مصنوعی در تولید خبر:
– اطلاعات غلط: همانطور که در آزمایش خبرنگار مشاهده شد، هوش مصنوعی می تواند به راحتی برای گسترش اخبار جعلی استفاده شود.
– خنثی سازی اعتماد: حضور اخبار جعلی تولید شده توسط هوش مصنوعی می‌تواند باور عمومی در منابع خبری معتبر را خنثی کند.
– از کار انداختن مشاغل: ظهور هوش مصنوعی در روزنامه‌نگاری ممکن است مشاغل انسانی را جایگزین کند، به ویژه در نقش‌های نوشتن و گزارشگری.
لینک‌های مرتبط:
– برای کسب اطلاعات بیشتر درباره فناوری‌های درگیر در مبارزه با اخبار جعلی، می توانید صفحه هوش مصنوعی و یادگیری ماشین ای‌بی‌ام را مشاهده کنید، زیرا آنها در این حوزه تحقیقات معناداری انجام داده‌اند.
– برای بدست آوردن اطلاعات درباره نقش رسانه‌های اجتماعی در گسترش اخبار، اتاق خبرهای فیسبوک اطلاعاتی در مورد چگونگی رفع اشتباهات را ارائه می‌دهد.
– برای بروزرسانی درباره آخرین تکنولوژی‌های هوش مصنوعی، می‌توانید وبسایت OpenAI را جستجو کنید، که آزمایشگاه تحقیقاتی پشت آفرینش فناوری‌هایی مانند ChatGPT است.
مهم است که اطلاعاتی درباره تلاش‌ها و پیشرفت‌هایی که برای شناسایی و پیشگیری از اخبار جعلی انجام می‌شود، آگاه باشید، به خصوص زمانی که فناوری هوش مصنوعی به ادامه تکامل خود ادامه می‌دهد.
The source of the article is from the blog reporterosdelsur.com.mx