در حوزه‌ی آژانس‌های متعددی در ایالات متحده از تصمیم به مقابله با تبعیض در فناوری‌های هوش مصنوعی (AI) بازتاییدی به عمل آمده است. این تعهد به واکنش نسبت به استفاده روبه افزایش AI توسط شرکت‌ها برای انجام تصمیمات بحرانی در مورد افراد اجتناب‌ناپذیر است، از جمله انتخاب کارمندان و تعیین نرخ‌های تسهیلات مسکن.
بخشنامه‌ای که توسط این آژانس‌ها منتشر شده است بر جذب تبعیضات در مدل‌های AI تاکید دارد. تبعیضات ممکن است از داده‌های نادرست، عدم شفافیت در عملکرد مدل و نادرستی در استفاده از ابزارهای AI به وجود آید. ضروری است که این تبعیضات مورد بررسی قرار گیرد، زیرا می‌تواند پیامدهای منفی وسیعی داشته باشد زمانی که این سیستم‌ها بطور گسترده مورد استفاده قرار می‌گیرند.
برای تضمین عدالت و پاسخ‌دهی در توسعه و اجرای سیستم‌های AI، آژانس‌های فدرالی مانند دفتر حفاظت مالی مصرف‌کننده (CFPB)، کمیسیون فرصت مساوی استخدام (EEOC) و وزارت بهداشت و خدمات انسانی (HHS) دستورالعمل‌هایی را منتشر می‌کنند که بیان می‌کنند چگونه قوانین موجود بر روی فناوری‌های AI اعمال می‌شوند. این رویکرد پیشگیرانه نشان دهنده تعهد آنها به حفظ استانداردهای قانونی است.
کمیسیون تجارت فدرالی (FTC) قبلاً در مقابل نقضات مربوط به AI اقدام کرده است. به عنوان مثال، استفاده Rite Aid از فناوری تشخیص چهره برای شناسایی دزدان در فروشگاه‌ها توسط FTC ممنوع شد از حدود زیادی از زنان و افراد با پوست رنگی نادرست شناسایی شده بود. این اقدام به وسیله FTC تعهد آنها به اجرای قوانین موجود را نشان می‌دهد، حتی زمانی که مربوط به فناوری‌های AI باشد.
تعهد آژانس‌های فدرالی به مقابله با تبعیضات در فناوری‌های AI بسیار حیاتی است برای اطمینان از استفاده عادلانه و اخلاقی از این سیستم‌ها. زیرا صنعت AI ادامه دارد در حال رشد باشد، با ارزش پیش‌بینی شده 190.61 میلیارد دلار تا سال 2025، لازم است تا تبعیضات را بررسی کرده و توسعه و اجرای پاسخگویی آنها را ترویج کنیم.
سوالات متداول
1. چه نگرانی‌های اصلی در بیانیه مطرح شده‌است؟
این بیانیه به تبعیضات پتانسیلی که ممکن است در سیستم‌های AI بوجود بیایند پرداخته‌است، با تاکید بر اینکه داده‌های نادرست، عدم شفافیت در عملکرد مدل و استفاده نادرست از ابزارهای تشدید قانونی و سایر پیامدهای آسیب‌زننده دیگر.
2. کدام آژانس‌های فدرالی در این تعهد دخیل هستند؟
امضاکنندگان این بیانیه شامل مسئولان وزارت کار، کمیسیون تجارت فدرالی، دفتر حفاظت مالی مصرف‌کننده، کمیسیون فرصت‌های مساوی، وزارت بهداشت و خدمات انسانی، امنیت داخلی و کار.
3. چگونه FTC قبلاً به نقضات مربوط به AI واکنش نشان داده‌است؟
یک مثالی نام برده شده در بیانیه ممنوعیت FTC از استفاده Rite Aid از فناوری تشخیص چهره برای گرفتن دزدان است. این فناوری به طور نادرست تعداد زیادی زنان و افراد با پوست رنگ را شناسایی کرد که منجر به پیامدهای ناروا شد.
پیش‌بینی‌ها بازار و تحلیل صنعت
صنعت AI در حال تجربه رشد قابل توجهی است، با پیش‌بینی‌های بازار که ارزش آن را تا سال 2025 به 190.61 میلیارد دلار می‌رساند. منابع قابل اعتمادی مانند MarketsandMarkets، Grand View Research، و Gartner گزارش‌های جامع تحقیقات بازار، تحلیل صنعت و بینش‌های بازاری را در مورد فناوری‌های AI ارائه می‌دهند.
بر اساس این گزارش‌ها، افزایش کاربرد AI در بخش‌های مختلف از جمله بهداشت، مالی، خرده فروشی و تولید، یکی از عوامل اصلی رشد بازار است. فناوری‌های AI پیشنهاد‌های زیادی از جمله بهبود کارایی عملیاتی، تجربه بهتر مشتری و تصمیم‌گیری مبتنی بر داده را ارائه می‌کند.
به علاوه، به همراه این رشد، نگرانی‌ها در مورد تبعیضات در سیستم‌های AI مطرح شده‌است. تبعیضات می‌توانند در مدل‌های AI نفوذ کرده و پیامدهای نابرابری، از جمله تمرینات تبعیض‌آمیز و تصمیم‌گیری نادرست، ایجاد کنند. این مسایل منجر به افزایش بازبینی و نیازمندی به راهنمایی از سوی آژانس‌های فدرالی شده‌است.
مسائل مربوط به AI و تبعیضات
بیانیه‌ای که توسط آژانس‌های فدرالی منتشر شده، برخی از مسائل مربوط به تبعیضات در فناوری‌های AI را برجسته می‌کند. این مسائل شامل:
- داده‌های نادرست: تبعیضات ممکن است زمانی به وجود بیاید که سیستم‌های AI بر روی مجموعه داده‌ها آموزش دیده شوند که ناقص، نماینده نباشد یا تبعیض‌های ذاتی داشته باشند. ناحیه پوششی برخی گروه‌ها، می‌تواند به پیامدهای نابرابری منتهی شود زمانی که سیستم AI پیاده‌سازی می‌شود.
- عدم شفافیت: عدم شفافیت در عملکرد مدل می‌تواند منجر به سختی در فهم و ارزیابی کند که سیستم‌های AI چگونه تصمیمات می‌گیرند. این عدم شفافیت اقتضای مسئولیت می‌کند و باعث می‌شود که شناسایی و درمان پیامدهای تبعیض‌آمیز دشوار شود.
- استفاده نادرست از ابزارهای AI: استفاده اشتباه یا استفاده نادرست از ابزارهای AI می‌تواند منجر به نتایج تبعیض‌آمیز شود. ضروری است که اطمینان حاصل شود که فناوری‌های AI به طرز صحیح استفاده می‌شود و با قوانین موجود واجد عهدنامه است تا از تمرینات تبعیض‌آمیز جلوگیری شود.
دستورالعمل‌ها و اجراییه توسط آژانس‌های فدرالی
برای پرداخت به این مسائل، آژانس‌های فدرالی به گام‌های پیشگیرانه می‌پردازند تا راهنمایی فراهم کنند و قوانین موجود مربوط به فن‌آوری‌های AI را اعمال نمایند. دفتر حفاظت مالی مصرف‌کننده (CFPB)، کمیسیون فرصت مساوی، و وزارت بهداشت و خدمات انسانی (HHS) در حال کار بر روی منتشر کردن دستورالعمل‌ها هستند که چگونگی اعمال قوانین موجود بر فناوری‌های AI را توضیح می‌دهند.
علاوه بر این، کمیسیون تجارت فدرالی (FTC) قبلاً اقداماتی را برای اعمال قوانین موجود انجام داده است. یکی از نمونه‌ها ممنوعیت استفاده Rite Aid از فناوری تشخیص چهره است که بهطور نادرست تعداد زیادی زنان و افراد با پوست رنگ را شناسایی کرد که منجر به پیامدهای نابرابر شد. این عمل اجرایی نشان‌دهنده تعهد آژانس‌های فدرالی به حفظ استانداردهای قانونی است، حتی زمانی که مربوط به فناوری‌های AI باشد.
بطور کلی، تعهد آژانس‌های فدرالی به مقابله با تبعیضات در فناوری‌های AI بسیار حیاتی است برای اطمینان از استفاده عادلانه و اخلاقی از این سیستم‌ها. با بررسی تبعیضات و تشویق به توسعه و اجرای مسئولانه، این آژانس‌ها نقش حیاتی در تقویت اعتماد و مسئولیت‌پذیری در صنعت AI ایفا می‌کنند.
The source of the article is from the blog meltyfan.es