تیم هوش مصنوعی OpenAI به کاوش درباره عملیات‌های تحت تاثیر هوش مصنوعی پرداخته‌است
در یک گفتگو آشکار با رسانه‌های ژاپن از جمله روزنامه‌های Mainichi، بن نیمو، رئیس تحقیقات هوشی OpenAI، نمونه‌هایی از عملیات تحت تاثیر خارجی که ژاپن را هدف قرار داده‌اند را فاش کرده‌است. در حال حاضر، استفاده اصلی از هوش مصنوعی در این طرح‌ها ایجاد متن است.
شناسایی استفاده مخرب هوش مصنوعی توسط OpenAI
OpenAI با پیشرفت‌هایی مثل ChatGPT هوش مصنوعی تعاملی گام‌های مهمی برداشته‌است. طبق گزارشی که در تاریخ 30 مه منتشر شد، این شرکت اکانت‌هایی که به پنج گروه در روسیه، چین و اسرائیل مرتبط است و از هوش مصنوعی آنها در عملیات تحت تاثیر استفاده می‌کردند، شناسایی و سپس مسدود کرد. در این یافته‌ها، یکی از نکات ویژه به شبکه‌ای اشاره شد که به ظاهر با اداره‌های انفاذ قانونی چین مرتبط است و به نام “اسپماوژ” شناخته می‌شود. آنها به گفتگوهای زبان ژاپنی که مخالف بازپس‌دادن آب درمانی از نیروگاه اتمی فوکوشیما به اقیانوس استفاده از فناوری OpenAI و گسترش این گفتگوها در برنامه‌های بزرگ وبلاگ پلتفرم‌ها پرداخته‌اند.
تعریف عملیات تحت تاثیر
نیمو عملیات تحت تاثیر را تلاش های مخفیانه برای کلیک روی عموم یا تأثیر بر رویدادهای سیاسی بدون افشای هویت یا نیت‌های افراد متهم به جواهراتی برای تبدیل به اطلاعات اشتباه یا نادرست می‌نماید. وی بر اهمیت تحقیق نه تنها بر محتوا بلکه بر موجودیت‌های برنامه‌ریزی این عملیات و الگوهای رفتاری آنها تاکید می‌کند.
با وجود یک تحقیق جامع، نه بنیان‌های دیگری برای کمپین‌های تحت تاثیر با مقصد ژاپن غیر از “اسپماوژ” یافت نشد و هیچ کاری در راستای انتخابات ریاست‌جمهوری آمریکا در نوامبر شناخته نشد. اصولاً هوش مصنوعی در ساخت یا ترجمه متن برای رسانه‌های اجتماعی یا بلاگ‌پست‌ها در این تلاش‌های تأثیرگذار به‌کار گرفته می‌شود. مصرف نادرست تصویر‌های تولیدشده به‌شدت کم بود.
خط عمیق میان تلاش برای مدیریت نظر و موفقیت واقعی در مدیریت این نظر
نیمو همچنین بین اندازه‌گیری مقصود از مدیریت نظر عمومی و اجرای موفقیت‌آمیز چنین مدیریتی تفاوت قائل می‌شود و به این معنی که موفقیت آمیز بودن تأثیرگذار بر جامعه در این تحقیق مشاهده نشد را ابراز می‌کند. با این حال، او تأثیرگذاری پتانسیل اندازه‌گیری‌های متقاضی هوش مصنوعی را برجسته‌سازی کرد که می‌تواند مدت‌زمان تسک‌های تجزیه و تحلیل را از ساعت‌ها یا روزها به چند دقیقه کاهش دهد.
بن نیمو یک زمینه تمیز دارد، او با تأسیس آزمایشگاه مطالعات دیجیتالی با شورای اطلسی اقیانوس و انجام تحقیقات در مورد رفتارهای منظم از منابع داخلی و بین‌المللی در Meta به‌عمل آمد.
چالش‌ها و اختلافات در عملیات تحت تاثیر هوش مصنوعی
یافتن و مهار عملیات تحت تأثیر خارجی که از تکنولوژی‌های هوش مصنوعی مانند آن‌هایی که توسط OpenAI توسعه یافته‌اند استفاده می‌کنند چندین چالش و اختلاف روشن دارد:
– تمایز بین استفاده مشروع و خبیث: ابزارهای هوش مصنوعی وسیعی قابل دسترسی هستند و می‌توانند برای اهداف مشروع مانند ترجمه زبان، ایجاد محتوا و … استفاده شوند. تمایز بین استفاده بی‌خطر و خبیث نیازمند تجزیه و تحلیل پیشرفته است و بسیاری اوقات تصمیم‌های فردی را می‌طلبد.
– خطای مثبت: تلاش‌ها برای شناسایی عملیات تأثیر ممکن است منجر به اشتباه گرفتن کمپین‌ها یا کاربران قانون‌مند شود که ممکن است منجر به پیامدهایی برای آزادی بیان و حقوق دیجیتال شود.
– نگرانی‌های حریم خصوصی: برای بررسی رفتارهای آنلاین و تفکیک عملیات‌های تأثیر ممکن است به داده‌های شخصی نیاز باشد که به نگرانی‌های حریم خصوصی و نقض‌های آن منجر می‌شود.
– واکنش‌های تنظیمی: طبیعت تکاملی هوش مصنوعی باعث می‌شود تا ناظران اغلب در حال دستگیری باشند و این امر سوالاتی را درباره اینکه چگونه قوانین و دستورالعمل‌ها باید اصلاح شوند تا از سوء استفاده از چنین فناوری‌هایی جلوگیری کنند.
مزایای مرتبط با عملیات تحت تاثیر هوش مصنوعی را مدیون بخشیدن
– ارتقای امنیت: شناسایی و کاهش دادن عملیات تأثیری به امنیت سایبری کلان و محافظت از فرایندهای دموکراتیک کمک می‌کند.
– آگاهی عمومی: آشنا کردن با این کمپین‌ها می‌تواند آگاهی عمومی را درباره اطلاعات اشتباه و نقش هوش مصنوعی در تلاش برای مدیریت اطلاعات افزایش دهد.
– پیشرفت فناورانه: تأمین اختلالات می‌تواند موجب توسعه سیستم‌های هوش مصنوعی قوی و اخلاقی‌تر شود.
معایب مرتبط با عملیات تحت تاثیر هوش مصنوعی را مدیون بخشیدن
– مصرف منابع: بررسی و مقابله با عملیات تأثیری نیازمند منابع اساسی نظیر قدرت محاسباتی و تحلیلگران ماهر است.
– اثر واکنشی: هرگاه یک عملیات مسدود شود، ممکن است یکی دیگر ظاهر شود که باعث چرخه‌ای پیوسته از شناسایی و پاسخ شود.
– نگرانی‌های سانسور: اقدامات انجام شده برای سرکوب عملیات تأثیر ممکن است منجر به اتهامات سانسور یا فشردگی دیدگاه سیاسی مشروع شود.
برای اطلاعات بیشتر درباره هوش مصنوعی و توسعه فناوری، لطفا از طریق این پیوند به وب‌سایت رسمی OpenAI مراجعه کنید.