سوگیری هوش مصنوعی در استخدام: وقتی الگوریتم، تبعیض‌های گذشته را تکرار می‌کند

سوگیری هوش مصنوعی (AI Bias) یعنی خروجی یک سیستم هوش مصنوعی به‌طور نظام‌مند به نفع یا به ضرر گروهی از افراد باشد، بدون اینکه دلیل موجهی برای آن وجود داشته باشد. در استخدام، این یعنی داوطلبان شایسته فقط به دلیل جنسیت، سن، نام، محل تحصیل یا ویژگی‌های دیگری که ربطی به توانایی شغلی ندارند، رد شوند یا امتیاز کمتری بگیرند.

خطر اصلی سوگیری در هوش مصنوعی این است که دیده نمی‌شود. وقتی یک مدیر استخدام تبعیض قائل شود، دیگران ممکن است متوجه شوند و اعتراض کنند. وقتی الگوریتم همان کار را انجام دهد، تصمیم «فنی»، «عینی» و «بی‌طرف» به نظر می‌رسد و کمتر زیر سؤال می‌رود.

سوگیری در هوش مصنوعی ناشی از چیست؟

مؤسسه‌ی NIST در گزارش ویژه‌ی SP 1270 توضیح می‌دهد سوگیری هوش مصنوعی فقط یک مشکل فنی در داده نیست و سه منشأ کلی دارد:

1. سوگیری سیستمی (نهادی): وقتی خود تاریخچه‌ی سازمان یا جامعه ناعادلانه بوده است. مدلی که از داده‌ی استخدام‌های گذشته یاد می‌گیرد، همان الگو را بازتولید می‌کند.
2. سوگیری آماری و محاسباتی: داده‌ای که نماینده‌ی کل جمعیت نیست، متغیرهایی که به‌طور غیرمستقیم جانشین ویژگی‌های حساس می‌شوند (مثل محله‌ی سکونت یا نام) و انتخاب‌های فنی در طراحی مدل.
3. سوگیری انسانی: پیش‌فرض‌های طراحان، کاربرانی که خروجی را بی‌چون‌وچرا می‌پذیرند (سوگیری اتوماسیون) و نحوه‌ی تفسیر نتایج.

نکته‌ی ظریف: حذف ستون «جنسیت» یا «سن» از داده، سوگیری را حذف نمی‌کند. مدل می‌تواند از نشانه‌های غیرمستقیم — نام، سال فارغ‌التحصیلی، نوع فعالیت‌های فوق‌برنامه — همان ویژگی را استنتاج کند.

شواهد: هوش مصنوعی در غربالگری رزومه چقدر سوگیری دارد؟

ابزار استخدام آمازون

معروف‌ترین نمونه، ابزاری است که آمازون از ۲۰۱۴ برای امتیازدهی خودکار به رزومه‌ها ساخت. مدل با رزومه‌های ده سال گذشته آموزش دید که بیشترشان متعلق به مردان بود. نتیجه، طبق گزارش‌هایی که ACLU هم تحلیل کرده، این بود که مدل رزومه‌هایی را که واژه‌ی «زنان» داشتند (مثلاً «کاپیتان باشگاه شطرنج زنان») جریمه می‌کرد. آمازون پروژه را کنار گذاشت. جزئیات این و پرونده‌های دیگر را در یک مطالعه‌ی موردی جداگانه بررسی می‌کنیم.

مدل‌های زبانی بزرگ هم مصون نیستند

• پژوهش دانشگاه واشنگتن در ۲۰۲۴ سه مدل زبانی پیشرفته را با بیش از ۵۵۰ رزومه‌ی واقعی آزمود که فقط نام داوطلب در آن‌ها تغییر می‌کرد. مدل‌ها در ۸۵٪ موارد نام‌های منسوب به سفیدپوستان را ترجیح دادند و نام‌های زنانه فقط در ۱۱٪ موارد برتری داشتند.
• آزمایش Bloomberg با رزومه‌های یکسان و نام‌های متفاوت هم نشان داد رتبه‌بندی GPT بسته به نام داوطلب، تفاوت معناداری دارد.

این یعنی اگر یک مدیر منابع انسانی امروز رزومه‌ها را در یک چت‌بات عمومی بارگذاری کند و بپرسد «بهترین سه نفر کدام‌اند؟»، ممکن است بدون اینکه بداند، تصمیمی سوگیرانه بگیرد.

پیامد حقوقی واقعی

در آمریکا، کمیسیون فرصت‌های برابر شغلی (EEOC) در ۲۰۲۳ با شرکت iTutorGroup به توافق ۳۶۵ هزار دلاری رسید؛ نرم‌افزار استخدام این شرکت به‌طور خودکار داوطلبان زن بالای ۵۵ سال و مرد بالای ۶۰ سال را رد می‌کرد.

قوانین جدید درباره‌ی هوش مصنوعی در استخدام

• اتحادیه اروپا: طبق پیوست سوم قانون هوش مصنوعی، سیستم‌های AI برای جذب، غربالگری، ارزیابی داوطلب، ارتقا و خاتمه‌ی همکاری «پرریسک» محسوب می‌شوند و باید الزاماتی مثل کیفیت داده، مستندسازی و نظارت انسانی را رعایت کنند. (مهلت اجرای این الزامات پس از اصلاحیه‌ی ۲۰۲۶، ۲ دسامبر ۲۰۲۷ است.)
• شهر نیویورک: طبق قانون محلی ۱۴۴، کارفرمایانی که از «ابزار خودکار تصمیم‌گیری استخدامی» استفاده می‌کنند، باید سالانه ممیزی سوگیری مستقل انجام دهند، نتیجه را منتشر کنند و به داوطلبان اطلاع دهند.

حتی در کشورهایی که قانون خاصی ندارند، قوانین عمومی منع تبعیض همچنان پابرجاست و «الگوریتم این کار را کرد» دفاع پذیرفتنی‌ای نیست.

چک‌لیست: پیش از استفاده از هوش مصنوعی در استخدام

1. هدف را محدود کنید. AI برای پیش‌نویس آگهی شغلی یا خلاصه‌کردن رزومه یک چیز است؛ برای رد خودکار داوطلب چیز دیگر. رد نهایی همیشه باید تصمیم انسان باشد.
2. از تأمین‌کننده شواهد بخواهید. آیا ابزار ممیزی سوگیری شده است؟ روی چه جمعیتی؟ نتایجش چه بود؟
3. آزمون ساده‌ی «تغییر نام» انجام دهید. چند رزومه‌ی یکسان با نام، جنسیت یا سن متفاوت بدهید و ببینید رتبه‌بندی عوض می‌شود یا نه.
4. نتایج را پایش کنید. نرخ پذیرش گروه‌های مختلف در هر مرحله را بسنجید. تفاوت بزرگ، زنگ خطر است.
5. به داوطلب شفافیت بدهید. اعلام کنید در کدام مرحله از AI استفاده می‌شود و راه درخواست بازبینی انسانی را باز بگذارید.
6. داده‌ی شخصی را در ابزار عمومی وارد نکنید. بارگذاری رزومه‌ها در یک چت‌بات عمومی، علاوه بر ریسک سوگیری، ریسک نشت داده هم دارد.

جمع‌بندی

هوش مصنوعی می‌تواند فرایند جذب را سریع‌تر کند، اما سرعت بدون نظارت یعنی تکثیر سریع‌تر خطا. سازمانی که از AI در منابع انسانی استفاده می‌کند، باید بتواند به یک سؤال ساده جواب دهد: «اگر داوطلبی بپرسد چرا رد شده، چه جوابی داریم؟» اگر جواب «سیستم این‌طور گفت» است، آن سیستم هنوز آماده‌ی استفاده نیست. برای طراحی نقاط تأیید انسانی، صفحه‌ی مدیریت ریسک هوش مصنوعی را ببینید.