صنعت نرم‌افزارهای هوش مصنوعی در حال تغییر و تحولی قرار دارد که با ظهور مدل‌های تولیدی هوش مصنوعی مانند ChatGPT همراه است. این مدل‌ها توانایی پاسخگویی به درخواست‌ها به زبان روزمره و ارائه نتایج جالب را دارند، باز میزانی که امکانات روزافزون مدل‌های هوش مصنوعی، مهندسی پرهیز برگرفته از مدل‌های هوش مصنوعی متولد جلوه گرفته است.
مهندسی پرهیز شامل تهیه دقیق دستورالعمل‌هایی است که به‌طور موثر مدل‌های هوش مصنوعی را هدایت کرده و خروجی‌های مطلوب را تولید کنند. بسیار مهم است که دستورات دقیق تهیه شود، به طوری که مهم است، مثلاً هم‌نشینی نقاط ضعف یک پیشنهاد سیاستی یا تهیه ایمیل بازاریابی دوستانه باشد. به علاوه، دستوراتی که مدل را تشویق به فکر مرحله‌به‌مرحله و تجزیه‌وتحلیل دستورات به وظایف منطقی می‌کنند، به بهبود نتایج منجر شده است. این تکنیک، به عنوان “زنجیره تفکر” شناخته می‌شود و تفسیری از کارهای داخلی مدل فراهم می‌کند.
شفافیت برای کاربران هوش مصنوعی بسیار اهمیت دارد. شامل متون معتبر در دستورالعمل‌ها می‌تواند مفید باشد. همچنین، هدایت مدل برای اولویت‌بندی منابع خاص یا خواستن از آن برای لیست کردن منابع خود می‌تواند معتبریت محتوای تولیدی را افزایش دهد. لازم به ذکر است که بسیاری از مدل‌های هوش مصنوعی دارای تنظیمات دما هستند که روی نتایج تصادفی تأثیر می‌گذارد. دماهای بالاتر خلاقیت را آزاد می‌کنند اما احتمال خطای واقعیتی را هم افزایش می‌دهند.
نقش‌های بازی در مهندسی پرهیز یک تکنیک موثر دیگر است. به عنوان مثال، در توسعه متون تبلیغاتی، بازاریابان مدل‌های هوش مصنوعی را تشویق به بازنویسی و دفاع از یک نمونه از دیدگاه‌های مختلف مانند یک رئیس فروش، رئیس بازاریابی و یک فرد خلاق می‌کنند. این رویکرد پاسخ‌های شبیه به انسان را به جلو آورده و می‌تواند توسط کارکنان انسانی بهبود یابد که در نتیجه، به تولید مطالب با کیفیت تر منجر می‌شود.
مجازیت اجتماعی می‌تواند بر نتایج پرهیز تأثیرگذار باشد. برخی معتقدند که اضافه کردن یک “لطفاً” مؤدب به یک دستور می‌تواند مدل را تحت تأثیر قرار دهد تا به همین نحو پاسخ دهد و از منابع مرتبط استفاده کند. به همین ترتیب، بیان سپاس‌گزاری برای پاسخ مفید ممکن است به مدل نشان دهد که در مسیر صحیح است. با این حال، سپاس‌گزاری بیش از حد می‌تواند منجر به ابهام و مانع از کارایی دستورالعمل شود که به پراکندگی منابع قدرت پردازشی اشاره می‌کند، همانطور که جاش هیوتت از Discoverable، یکی از آژانس‌های بازاریابی بریتانیایی هشدار می‌دهد.
دستورالعمل های مهندسی پرهیز ارزش فراوانی دارند. شرکت‌هایی مانند Crispy Content الگوهایی توسعه داده‌اند که مدل‌های هوش مصنوعی را به تولید مقالات 1000 کلمه‌ای برای مشتریان هدایت می‌کند. کاربران کلمات کلیدی خاص و تناسب خوانه دلخواه خود را وارد می‌کنند، در حالی که الگوها با هزینه قابل توجهی تقریباً €25000 ($27000) به معادل کاریک متخصص به‌کار بسته می‌شود. سپس خروجی توسط یک ویراستار انسانی بررسی می‌شود. مقالات مبتنی بر دستورالعمل به ارزش کمتری نسبت به نویسندگان انسانی ایجاد می‌کند.
آژانس‌های مهندسی پرهیز و دوره‌های آموزش آنها که این مهارت را آموزش می‌دهند، در حال توسعه موفقیت آمیزی هستند. تقاضا برای مهندسان پرهیز از اواخر 2022 در حال افزایش بوده و همچنان ادامه دارد. فارغ‌التحصیلان مدارس با زمینه زبان یا علوم انسانی برای این مواقعیت‌ها بصرفه‌ی بالایی مورد توجه است. در حالی که پیشرفت‌های هوش مصنوعی در نهایت ممکن است مهندسی پرهیز را از بین ببرند زیرا مدل‌ها توانایی خود را در پیش‌بینی نیازهای کاربران بهبود می‌دهند، اما برای اکنون، کسانی که می‌توانند هنر مهندسی پرهیز را فرا بگیرند، از یک مزیت رقابتی لذت خواهند برد.
پرسش‌های متداول
The source of the article is from the blog coletivometranca.com.br