سوگیری در سیستم‌های هوش مصنوعی: از کجا می‌آید و چطور کم می‌شود؟

سوگیری یعنی چه؟

سوگیری در هوش مصنوعی یعنی سیستم به شکل نظام‌مند برای بعضی گروه‌ها نتیجه‌ی ضعیف‌تر یا ناعادلانه‌تری بدهد. این مسئله ممکن است بدون قصد هم رخ دهد.

منبع سوگیری

• داده‌ی آموزشی ناقص یا نابرابر
• برچسب‌هایی که خودشان جانبدارانه‌اند
• انتخاب معیارهایی که گروهی را نادیده می‌گیرند
• استفاده‌ی نادرست از خروجی سیستم در یک زمینه‌ی دیگر

راه‌های کاهش

داده‌ی متنوع‌تر، آزمایش جدا برای گروه‌های مختلف، شفافیت درباره‌ی محدودیت‌ها و نظارت انسانی در تصمیم‌های مهم، از روش‌های اصلی هستند.

نقش کاربر

کاربران می‌توانند نمونه‌های مشکل‌دار را گزارش دهند و از ابزارها بدون کنار گذاشتن قضاوت خودشان استفاده کنند.