در دنیای هوش مصنوعی، به ویژه در زمینه‌ی هوش مصنوعی تولیدی، میزان زیادی از هیجان و هیاهو وجود دارد. اما به نظر می‌رسد که این هیجان ممکن است نادرست باشد و برخی شرکت‌ها به سختی این واقعیت را درک می‌کنند.
یکی از اصلی‌ترین مشکلات مدل‌های زبان بزرگ مانند ChatGPT، تمایل به هالوسینه کردن و گسترش اطلاعات نادرست است. این منجر به اتهامات سرقت ادبی علیه چت‌بات‌ها و تولیدکنندگان تصاویر هوش مصنوعی شده است که منجر به آسیب به اعتبار شرکت‌هایی شده که بر این فناوری‌ها وابسته‌اند. علاوه بر این، مصرف انرژی مورد نیاز توسط سخت‌افزار هوش مصنوعی تولیدی یک نگرانی مهم برای محیط زیست است.
اما شاید مشکل اصلی، قابلیت قطعی فناوری باشد. بر اساس گفته پژوهشگر هوش مصنوعی، گری مارکوس، شرکت‌ها متوجه می‌شوند که نمی‌توانند به هوش مصنوعی تولیدی برای کار قطعی اعتماد کنند. بسیاری از شرکت‌ها انزجار خود را از عملکرد فناوری و عدم توانایی آن برای به‌طور قابل اعتماد به مشتریان عرضه شدن نشان داده‌اند.
یک شرکت انگلیسی باید چت‌بات خود را غیرفعال کند پس از آنکه از اینترنت دامسبزی و توهین به مشتریان کرد. به همین ترتیب، یک نمایندگی خودرو در کالیفرنیا باید اقدامی بنماید هنگامی که فروشنده خودروی قدرت‌گرفته از ChatGPT آن‌ها آماده عرضه خودروها با هزینه‌ای صرفا یک دلار می‌شد. این حوادث نکات ضعف و خطرات مرتبط با وابستگی بیش از حد به هوش مصنوعی تولیدی را بیان می‌کند.
مشکل در این است که این مدل‌های هوش مصنوعی فقط اطلاعات را بازیابی نمی‌کنند؛ بلکه آن‌ها را ترکیب می‌کنند. بدون راهنمایی‌ها و دستورالعمل‌های مناسب، این مدل‌ها ممکن است بر اساس داده‌هایی که آموزش دیده‌اند، اطلاعات نادرست یا فریبنده ایجاد کنند. این کمبود تمییز تحدی مهمی برای کسب‌وکارهایی است که می‌خواهند از هوش مصنوعی تولیدی در محصولات خود استفاده کنند.
با توجه به این مشکلات، برخی از متخصصان مقایسه‌هایی بین صنعت هوش مصنوعی و حباب‌های قبلی مانند رمزارزها و شرکت‌های Dot Com برقرار کرده‌اند. پیش‌بینی‌های
سراشیبی‌شده هوش مصنوعی به عنوان یک صنعت بیلیون‌دلاری در دهه بعدی از نگرانی‌ها درباره انتظارات غیر واقع‌گرایانه به دنبال دارد. علاوه بر این، اسکپتیک‌ها سوال مطرح می‌کنند که آیا فناوری به اندازه کافی سریع پیشرفت خواهد کرد که بتواند به انتظارات فعلی واکنش نشان دهد که به طور موازی می‌تواند به دوره‌ای از تعطیلی منجر شود.
سرمایه‌گذارانی که مقادیر زیادی از وجه خود را در صنعت هوش مصنوعی سرمایه‌گذاری کرده‌اند ممکن است خود را دچار بی‌صبری ببینند اگر در دوره‌ی کوتاهی عایدات مورد انتظار خود را نبینند. هر چند که هوش مصنوعی و هوش مصنوعی عمومی (AGI) غیر ممکن نیستند، وضع فعلی فناوری هوش تولیدی چالش‌های زیادی را بروز می‌دهد که به راحتی قابل پشتیبانی نیستند.
به محضور کسب‌وکارها و پژوهشگران هم برای نگرانی‌ها و مشکلات مرتبط با هوش مصنوعی تولیدی به رویه واقع‌گرایانه‌ای به هوش مصنوعی نگریسته و محدودیت‌ها و خطرات مرتبط با آن‌ها را در نظر بگیرند. تنها با اقرار این چالش‌ها می‌توانیم فناوری‌های هوش مصنوعی را توسعه دهیم و بر روی آن‌ها عرضه کنیم تا قابل اعتماد، اخلاقی و مفید برای جامعه باشند.
سوالات متداول
The source of the article is from the blog mendozaextremo.com.ar