هوش مصنوعی (AI) به یک بخش اساسی از زندگی‌های ما تبدیل شده است، به ما در تعدادی از وظایف کمک می‌کند و صنایع را اصلاح می‌کند. با این حال، تجربه اخیر راننده هلندی تیم هانسن نشان می‌دهد که چالش‌های احتمالی اعتماد صرفاً به فناوری‌های مجهز به هوش مصنوعی برای نظارت بر قوانین را روشن می‌کند.
هانسن، که خود یک متخصص در حوزه هوش مصنوعی است، خود را در معرض یک جریمه سنگین بخوران 380 یورویی قرار داد و اتهام شد که در حین رانندگی از تلفن همراه خود استفاده کرده است. مشکل چی بود؟ او در واقع هیچ‌وقت از تلفن خود استفاده نمی‌کرد بلکه فقط با دست آزاد خود سر خود را خار می‌کرد. این واقعه به عنوان یک یادآور سخت برای نحوه‌ای که به راحتی هوش مصنوعی می‌تواند اقدامات انسانی را اشتباه تفسیر کند و منجر به استنباط‌های نادرست شود، خدمت کرد.
در مورد هانسن، مجرم پشت جرم ناعادلانه او دوربین هوشمند Monocam بود، یک دوربین مجهز به هوش مصنوعی طراحی شده برای شناسایی رانندگانی که از تلفن همراه خود استفاده می‌کنند. با این حال، همانطور که در یک پست وبلاگ توضیح داده بود، هوش مصنوعی بطور اشتباهی اقدام بی‌خطر خار کردن سر را به عنوان استفاده از تلفن شناخته بود. این تشخیص اشتباه سوالاتی را پیرامون کارایی و قابلیت اطمینان هوش مصنوعی در نظارت بر ترافیک مطرح می‌کند.
این واقعه نه تنها محدودیت‌های هوش مصنوعی را معرفی می‌کند بلکه این امکان را نیز نشان می‌دهد که انسان این سیستم اشتباه کند. با وجود فناوری AI، در نهایت یک افسر پلیس انسانی بود که براساس تصویری که توسط دوربین هوشمند گرفته شده بود، جریمه را تأیید کرد. این نشان می‌دهد که نیازمندی به نظارت انسانی و ارزیابی دقیق از نتایج تولید شده توسط هوش مصنوعی است.
هر چند هانسن علاقه‌مند است به پلیس کمک کند تا سیستم هوش مصنوعی خود را بهبود بخشد، اما ارزشمند است که توجه شود هلند از چندین سال استفاده از این فناوری را داشته و با موفقیت قابل توجهی داشته است. Monocam نقش اساسی در گرفتن هزاران راننده که دسترسی به پیامک داشتند داشته و به ایمنی جاده کمک کرده است. با این حال، هنوز هم فضایی برای ارتقاء وجود دارد، از جمله کاهش شناسایی‌های اشتباه و افزایش دقت الگوریتم‌های هوش مصنوعی.
همانطور که استفاده از فناوری مجهز به هوش مصنوعی در نظارت بر ترافیک گسترش می‌یابد، نگرانی‌ها از حریم خصوصی و امکان تشخیص اشتباه اقدامات بدون شک ظاهر خواهد شد. معرفی دوربین‌های لیبل‌گذاری‌شده بر روی فوکوس، که قادر به تشخیص نگاه راننده، نقض‌های چراغ قرمز و استفاده از کمربند ایمنی هستند، بیشتر نگرانی‌های مربوط به وابستگی روزافزون به هوش مصنوعی در نظارت بر ترافیک را روشن می‌کند.
این داستان احتیاطی به عنوان یادآوری خدمت کننده است که هر چند هوش مصنوعی می‌تواند یک ابزار ارزشمند باشد، اما خطای‌ناپذیر نیست. تلاش‌های مشترک بین کارشناسان هوش مصنوعی، نهادهای نظامی و سیاست‌گذاران ضروری است تا توسعه و استقرار سیستم‌های هوش مصنوعی ایجاد شود که هم قابل اعتماد و عادلانه باشند و هم خطر جریمه‌های اشتباهی را کمینه‌کنند و حقوق افراد را حفظ کنند.
The source of the article is from the blog maltemoney.com.br