پیچیدگی ارتباط هوش مصنوعی و فعالیت‌های جنایی توسط یک رسوایی که در آن از یک ضبط صدای مصنوعی تولید شده توسط هوش مصنوعی استفاده شده بود، مورد توجه قرار گرفت. دازهون لسلی داریان، مدیر ورزشی سابق مدرسه دبیرستان پایکزویل، یک حمله علیه رییس مدرسه را با استفاده از این فناوری برنامه‌ریزی کرد.
پس از اینکه به او اطلاع داده شد که قراردادش به دلیل مشکلات عملکردی تجدید نظر نخواهد شد، داریان بازپس‌گیری نسبت به مافوق خود، اریک ایسورت، اعمال کرد. اتهاماتی علیه داریان شامل اخراج غیرمجاز یک مربی و دزدی از صندوق مدرسه بود. از طریق یک خدمات هوش مصنوعی نامعلوم، داریان یک ضبط صوتی از یک گفت‌و‌گویی که هرگز وقوع نیافته، ساخت و ترکیبید که ایسورت را متهم به سخنان نژادپرستانه درباره توانایی‌های ذهنی دانش‌آموزان سیاه‌پوست، یهودی‌ها، و نظرات اهانت‌آمیز در مورد دو همکار نشان می‌دهد.
پخش دروغ و پیامدهای آن آغاز شد موقعی که داریان فایل تقلبی را از حساب Gmail خود به کارکنان و دانش‌آموزان مدرسه پخش کرد. این صدای دستکاری شده برانگیختگی زیادی را در جامعه مدرسه ایجاد کرد و منجر به پیام‌های نفرت‌انگیز در رسانه‌های اجتماعی، تهدیدات مرگبار علیه ایسورت، و موقتی شدن او از مسئولیت خود گردید. ایسورت این اتهامات را با افشای به بازدیدکنندگان این امر انکار کرد که گفت‌و‌گوی ضبط شده هرگز وقوع نداشته، با بیان یک تعارض مداوم و توانایی تکنیکی داریان به عنوان اساس برای شک و تردید.
سرانجام، نیروی انتظامی اصالت جعلی بودن ضبط را با کمک حرفه‌ای تایید کرد و پخش حساب Gmail را تا خانه مادربزرگ داریان ردیابی کرد. این تحقیق منجر به بازداشت او در فرودگاه پس از یک حادثه امنیتی مرتبط با تفنگ‌های بسته‌بندی نادرست شد. اتهامات در انتظار درابطه با درهم‌ریختگی نظم مدرسه، آزار و اذیت، بازگشت علیه شهود، دزدی، و اتهامات آزار دیگر علیه داریان هستند.
فناوری آغازگر نگرانی در نیروهای انتظامی؛ این نه تنها شرکت‌های بزرگی از قبیل Meta، Microsoft، و OpenAI است که قابلیت‌های گفتاری هوش‌مصنوعی دارند، بلکه ارائه‌دهندگان کوچکتر هم می‌توانند تقلب‌های قاعدتی برای متهم کردن افراد تولید کنند. با توجه به اینکه فعالیت زیادی در بازار مدل گفتاری هوش مصنوعی وجود دارد، ممکن است در آینده یک افزایش در موارد مشابه جنایی مشاهده شود.
سوالات و پاسخ‌های مهم:
1- چالش‌های اصلی مرتبط با استفاده از هوش مصنوعی در قضاوت چیست؟
چالش‌های اصلی شامل تمایز بین محتوای واقعی و تولید شده توسط هوش مصنوعی، پیشرفت سریع فناوری که باعث می‌شود روش‌های قضایی را به‌روز نگه دارد دشوارتر شود و دسترسی گسترده به ابزارهای هوش مصنوعی که ممکن است به‌کار رودانستن با شرارت.
2- چه اختلافاتی از استفاده از محتوای تولیدشده توسط هوش مصنوعی در فعالیت‌های جنایی ناشی می‌شود؟
اختلافات شامل پیامدهای اخلاقی استفاده از هوش مصنوعی برای گول خوردن، احتمال وقوع اشتباهات قضایی، و دشواری قرار دادن مسئولیت زمانی هنگامی که ابزارهای هوش مصنوعی در فعالیت‌های جنایی استفاده می‌شوند.
3- چطور می‌توان اتهامات نادرست مبتنی بر شواهد تولیدشده توسط هوش مصنوعی را متوقف کرد؟
کارشناسان قضایی محتوا را برای حدس‌زدایی از سطح دستکاری بررسی می‌کنند، و ردیابی‌های دیجیتال برای تعیین منشأ محتوای تولیدشده توسط هوش مصنوعی بررسی می‌گردد. تضمینات حقوقی و روش‌های اجرایی نیز باید برای تایید اصالت شواهد وجود داشته باشد.
مزایا و معایب هوش مصنوعی در قضاوت:
مزایا:
– هوش مصنوعی می‌تواند میزان زیادی از داده‌ها را به‌طور کارآمد پردازش کند و در تحقیقات جنایی کمک کند.
– ابزارهای قضایی هوش مصنوعی می‌توانند الگوها و نقض‌ها را شناسایی کنند که ممکن است توسط بازجویان انسانی از دست بروند.
– هوش مصنوعی، زمانی که به نحو صحیح استفاده شود، می‌تواند دقت و صداقت را در تحلیل شواهد افزایش دهد.
معایب:
– محتوای تولیدشده توسط هوش مصنوعی ممکن است برای ایجاد شواهد نادرست مورد استفاده قرار گیرد و افراد بی‌گناه را متهم کند.
– ابزارهای قضایی هوش مصنوعی ممکن است دارای تعصباتی در الگوریتم‌های خود باشند و بر نتایج تحقیقات تأثیر بگذارند.
– طبیعت “جعبه سیاه” برخی از سیستم‌های هوش مصنوعی ممکن است باعث دشواری درک این موارد شود که چگونه به نتایج خاصی رسیده‌اند.
بزرگنمایی این فناوری منجر به نگرانی در نیروهای انتظامی: این یک حوزه به‌صورت سریع در حال توسعه است، و بنابراین، قوانین و مقررات دچار مشکل شده‌اند تا با قابلیت‌های فناوری هوش مصنوعی هم‌پیمانی کنند. سیستم حقوقی باید با شواهد جدید و روش‌های جدیدی که با استفاده از هوش مصنوعی می‌توان جنایاتی را انجام داد، سازگار سازی شود.
برای اطلاعات بیشتر در مورد هوش مصنوعی و تأثیر آن بر بخش‌های مختلف، از جمله نیروهای انتظامی و قضاوت، می‌توانید به سایت‌های زیر مراجعه فرمایید:
– OpenAI
– Microsoft
– Meta
لطفاً توجه داشته باشید که این پیوندها به دامنه اصلی می‌رود و به هیچ صفحه فرعی یا مقاله خاصی هدایت نمی‌شود. این سازمان‌ها به خاطر مشارکت در توسعه و بحث در مورد فناوری‌های هوش مصنوعی شناخته شده‌اند.