Human-in-the-Loop چیست؟ طراحی نظارت انسانی واقعی بر تصمیمات هوش مصنوعی

بهترین سیستم‌های هوش مصنوعی در حوزه‌های حساس یک نقطه‌ی مشترک دارند: در لحظه‌های مهم، یک انسان حرف آخر را می‌زند. این اصل را Human-in-the-Loop (HITL) یا «انسان در حلقه» می‌نامند. اما طراحی آن سخت‌تر از چیزی است که به نظر می‌رسد. سؤال اصلی این نیست که «آیا انسان نظارت کند؟»؛ سؤال این است: کجای فرایند، کدام انسان، با چه اطلاعاتی، با چه معیاری و با چه اختیاری؟

Human-in-the-Loop یعنی چه؟

در ادبیات حاکمیت هوش مصنوعی، سه الگوی اصلی نظارت انسانی از هم تفکیک می‌شوند:

الگو	معنا	مثال
Human-in-the-Loop (انسان در حلقه)	سیستم پیشنهاد می‌دهد، انسان پیش از اجرا تأیید یا رد می‌کند	تأیید نهایی رد درخواست وام توسط کارشناس
Human-on-the-Loop (انسان روی حلقه)	سیستم خودکار اجرا می‌کند، انسان پایش می‌کند و می‌تواند مداخله یا متوقف کند	پایش لحظه‌ای سیستم تشخیص تقلب با امکان توقف
Human-in-Command (انسان در فرمان)	انسان درباره‌ی اینکه اصلاً کجا و چطور از AI استفاده شود تصمیم می‌گیرد	کمیته‌ای که استفاده از AI در ارزیابی عملکرد کارکنان را ممنوع می‌کند

هیچ‌کدام به‌تنهایی «درست» نیست. انتخاب الگو باید متناسب با ریسک باشد: هرچه اثر یک تصمیم بر افراد بیشتر و برگشت‌پذیری‌اش کمتر باشد، انسان باید به تصمیم نزدیک‌تر باشد.

قانون چه می‌گوید؟

• قانون هوش مصنوعی اروپا، ماده‌ی ۱۴: سیستم‌های پرریسک باید طوری طراحی شوند که افراد حقیقی بتوانند به‌طور مؤثر بر آن‌ها نظارت کنند. ناظران باید بتوانند ظرفیت‌ها و محدودیت‌های سیستم را درک کنند، از گرایش به اتکای خودکار یا بیش از حد به خروجی (سوگیری اتوماسیون) آگاه باشند، خروجی را درست تفسیر کنند، تصمیم بگیرند که از خروجی استفاده نکنند یا آن را نادیده بگیرند، و بتوانند سیستم را متوقف کنند.
• مقررات GDPR، ماده‌ی ۲۲: افراد حق دارند مشمول تصمیمی نشوند که صرفاً بر پردازش خودکار متکی است و اثر قابل‌توجهی بر آن‌ها دارد، مگر در شرایط مشخص؛ و در آن شرایط هم حق درخواست دخالت انسانی دارند. راهنمای ICO و مؤسسه‌ی آلن تورینگ تأکید می‌کند دخالت انسانی باید معنادار باشد، نه یک امضای نمادین.

بزرگ‌ترین خطر: انسانی که فقط تأیید می‌کند

در رسوایی الگوریتم کمک‌هزینه‌ی مهدکودک در هلند، کارمندان انسانی در فرایند حضور داشتند؛ اما طبق گزارش عفو بین‌الملل، پرونده‌هایی را که سیستم پرچم‌گذاری می‌کرد بدون بررسی کافی دنبال می‌کردند. نتیجه، آسیب به هزاران خانواده بود. حضور انسان، نظارت نبود.

پژوهش‌ها دلیلش را توضیح می‌دهند. مرور نظام‌مند Goddard و همکاران نشان داد افرادی که با سیستم‌های پشتیبان تصمیم کار می‌کنند، گاهی توصیه‌ی نادرست سیستم را می‌پذیرند و حتی تصمیم درست خودشان را به نفع آن تغییر می‌دهند؛ به‌خصوص وقتی حجم کار بالا، زمان کم و سیستم معمولاً درست است. مؤسسه‌ی NIST هم در پروفایل هوش مصنوعی مولد اتکای نابجا به خروجی را یکی از ریسک‌های اصلی می‌داند.

۶ شرط نظارت انسانی واقعی

1. صلاحیت: ناظر باید دانش کافی از موضوع و از محدودیت‌های سیستم داشته باشد.
2. اطلاعات: ناظر باید فقط خروجی را نبیند؛ دلایل اصلی، میزان اطمینان سیستم و داده‌های کلیدی پرونده را هم ببیند.
3. زمان: اگر کارشناس باید ۴۰۰ پرونده در روز را «بازبینی» کند، بازبینی واقعی انجام نمی‌شود.
4. اختیار: ناظر باید بتواند بدون توجیه طولانی یا ترس از پیامد، با سیستم مخالفت کند.
5. ثبت: تأییدها و مخالفت‌ها با دلیل ثبت شوند.
6. بازخورد: مخالفت‌های ناظران باید به بهبود سیستم برگردد.

الگوی عملی: طراحی HITL برای یک تصمیم حساس

فرض کنید سیستمی درخواست‌های بازپرداخت مشتریان را بررسی می‌کند:

۱. تقسیم بر اساس ریسک و اطمینان:

• مبلغ کم + اطمینان بالای سیستم → اجرای خودکار با پایش نمونه‌ای (Human-on-the-Loop)
• مبلغ بالا، یا اطمینان پایین، یا موارد غیرعادی → ارجاع به کارشناس (Human-in-the-Loop)
• هر تصمیم منفی (رد درخواست) → همیشه بازبینی انسانی

۲. نمایش مناسب به کارشناس: پیشنهاد سیستم، دلایل اصلی، میزان اطمینان و لینک به مدارک پرونده. برای کاهش سوگیری اتوماسیون، در برخی موارد می‌توان از کارشناس خواست پیش از دیدن پیشنهاد سیستم، نظر اولیه‌ی خودش را ثبت کند.

۳. پایش نمونه‌ای: درصدی از تصمیم‌های خودکار هم به‌طور تصادفی توسط انسان بازبینی شوند تا خطاهای نظام‌مند کشف شوند.

۴. شاخص‌ها:

• نرخ مخالفت کارشناسان با سیستم (اگر نزدیک صفر است، مشکوک باشید)
• زمان صرف‌شده برای هر بازبینی
• نرخ خطای کشف‌شده در بازبینی نمونه‌ای
• تعداد اعتراض‌های مشتریان و نتیجه‌ی آن‌ها

۵. مسیر اعتراض: مشتری بتواند درخواست بازبینی توسط فرد دیگری بدهد.

جمع‌بندی

Human-in-the-Loop یک جعبه‌ی تیک در فرم نیست؛ یک طراحی است که باید به انسان صلاحیت، اطلاعات، زمان و اختیار واقعی بدهد. وقتی درست طراحی شود، هم ریسک را کم می‌کند و هم کیفیت سیستم را با بازخورد انسانی بالا می‌برد. برای شناخت بهتر خطر اتکای بیش از حد، مقاله‌ی وابستگی بیش از حد به هوش مصنوعی و برای جایگاه نظارت انسانی در کل چارچوب، اصول حاکمیت هوش مصنوعی را ببینید.