پرونده‌ی چت‌بات ایرکانادا: وقتی شرکت مجبور شد به قول چت‌باتش عمل کند

در فوریه ۲۰۲۴، یک دادگاه کانادایی رأیی صادر کرد که احتمالاً پرارجاع‌ترین پرونده‌ی دنیا درباره‌ی چت‌بات‌های سازمانی شده است. مبلغ خسارت کم بود — چند صد دلار کانادا — اما اصلی که تثبیت کرد برای هر سازمانی که چت‌بات هوش مصنوعی جلوی مشتری می‌گذارد، حیاتی است: هر چیزی که چت‌بات شما می‌گوید، از نظر حقوقی حرف شرکت شماست.

ماجرا چه بود؟

در نوامبر ۲۰۲۲، Jake Moffatt پس از فوت مادربزرگش، برای خرید بلیت سفر به تورنتو به وب‌سایت ایرکانادا رفت و از چت‌بات سایت درباره‌ی «نرخ سوگ» (تخفیفی که برخی ایرلاین‌ها برای سفر به دلیل فوت بستگان می‌دهند) پرسید.

چت‌بات به او گفت می‌تواند بلیت را با قیمت عادی بخرد و ظرف ۹۰ روز پس از صدور بلیت، درخواست بازپرداخت مابه‌التفاوت را ارائه دهد. همان پاسخ حتی لینکی به صفحه‌ی سیاست سوگ ایرکانادا داشت؛ صفحه‌ای که در واقع می‌گفت این تخفیف بعد از سفر قابل درخواست نیست.

Moffatt به حرف چت‌بات اعتماد کرد، بلیت‌ها را خرید و بعد از سفر درخواست بازپرداخت داد. ایرکانادا نپذیرفت. پس از ماه‌ها مکاتبه، شرکت پیشنهاد داد یک کوپن ۲۰۰ دلاری برای سفرهای آینده بدهد. Moffatt نپذیرفت و به دادگاه حل اختلاف مدنی (Civil Resolution Tribunal) بریتیش‌کلمبیا شکایت کرد.

دفاع عجیب ایرکانادا

آنچه این پرونده را مشهور کرد، دفاع شرکت بود. به نقل از متن رأی، ایرکانادا استدلال کرد نمی‌تواند مسئول اطلاعاتی باشد که «نمایندگان» آن — از جمله چت‌بات — ارائه کرده‌اند. قاضی پرونده این را به این معنا دانست که شرکت در عمل مدعی است چت‌بات «یک نهاد حقوقی جداگانه است که مسئول اقدامات خودش است» و آن را «ادعایی قابل‌توجه» توصیف کرد.

رأی دادگاه

دادگاه در ۱۴ فوریه ۲۰۲۴ به نفع مسافر رأی داد. استدلال‌های کلیدی (CBC، The Verge):

1. چت‌بات بخشی از وب‌سایت شرکت است. شرکت مسئول همه‌ی اطلاعات وب‌سایتش است، چه در یک صفحه‌ی ثابت باشد و چه در پاسخ یک چت‌بات.
2. شرکت وظیفه‌ی مراقبت داشت تا اطمینان یابد چت‌باتش اطلاعات دقیق می‌دهد، و این وظیفه را انجام نداد (دادگاه آن را «ارائه‌ی اطلاعات نادرست از روی سهل‌انگاری» دانست).
3. مشتری دلیلی نداشت که بداند باید حرف یک بخش از سایت را بیشتر از بخش دیگر باور کند.

ایرکانادا به پرداخت مابه‌التفاوت قیمت بلیت به‌علاوه‌ی بهره و هزینه‌های دادرسی محکوم شد.

چرا این پرونده برای شما مهم است؟

ممکن است بگویید «ما ایرلاین نیستیم» یا «قوانین ما متفاوت است». اما منطق رأی، جهانی است و به سه واقعیت فنی و حقوقی تکیه دارد:

۱. چت‌بات‌های مولد می‌توانند سیاست «اختراع» کنند

مدل‌های زبانی گاهی پاسخی می‌سازند که محتمل به نظر می‌رسد ولی در هیچ منبعی وجود ندارد؛ پدیده‌ای که توهم هوش مصنوعی نام دارد و NIST در پروفایل هوش مصنوعی مولد آن را یکی از ریسک‌های اصلی می‌داند. چت‌بات ایرکانادا دقیقاً همین کار را کرد.

۲. مشتری فرقی بین «پاسخ ماشین» و «پاسخ شرکت» نمی‌گذارد

از دید مشتری، چت‌بات صدای برند است. حتی قانون هوش مصنوعی اتحادیه اروپا (ماده ۵۰) الزام می‌کند کاربر بداند با یک سیستم هوش مصنوعی صحبت می‌کند؛ اما این شفافیت، مسئولیت محتوای پاسخ را از بین نمی‌برد.

۳. «سلب مسئولیت» کافی نیست

نوشتن جمله‌ای مثل «پاسخ‌های چت‌بات ممکن است نادرست باشد» در گوشه‌ی صفحه، در این پرونده به کمک شرکت نیامد. دادگاه به رفتار معقول مشتری و وظیفه‌ی مراقبت شرکت نگاه کرد.

درس‌ها: چک‌لیست راه‌اندازی چت‌بات مشتری

اگر سازمان شما چت‌بات هوش مصنوعی برای مشتری دارد یا می‌خواهد راه بیندازد:

1. دامنه‌ی موضوعات را محدود کنید. چت‌بات فقط درباره‌ی موضوعاتی پاسخ دهد که برایش تعریف شده است؛ بقیه به انسان ارجاع شود.
2. پاسخ‌ها را به منبع رسمی متصل کنید. برای سیاست‌ها، قیمت‌ها و شرایط بازپرداخت، چت‌بات باید از متن رسمی و به‌روز پاسخ دهد و ترجیحاً لینک همان متن را نشان دهد.
3. تعهد مالی و حقوقی ممنوع. چت‌بات نباید بتواند تخفیف، بازپرداخت، جبران خسارت یا هر تعهدی را تأیید کند؛ این موارد باید به اپراتور انسانی برود. OWASP این ریسک را «اختیار بیش از حد» (Excessive Agency) می‌نامد.
4. پیش از انتشار، آزمون کنید. مجموعه‌ای از پرسش‌های واقعی و پرسش‌های پیچیده/فریبنده را آزمایش کنید و نرخ پاسخ نادرست را بسنجید.
5. گفت‌وگوها را پایش کنید. نمونه‌ای از گفت‌وگوها را به‌طور منظم بازبینی کنید؛ پاسخ‌های اشتباه را قبل از اینکه به شکایت تبدیل شوند پیدا کنید.
6. برای اشتباه آماده باشید. اگر چت‌بات اشتباهی کرد، سریع و منصفانه جبران کنید. ایرکانادا با پذیرش یک ادعای چند صد دلاری، می‌توانست از تیتر جهانی شدن جلوگیری کند.
7. مالک مشخص تعیین کنید. یک نفر در سازمان باید پاسخ‌گوی دقت و رفتار چت‌بات باشد، نه «تیم فنی» به‌طور کلی.

جمع‌بندی

پرونده‌ی ایرکانادا یک پیام ساده دارد: نمی‌توانید مسئولیت را به نرم‌افزار بسپارید. چت‌بات می‌تواند هزینه‌ی پشتیبانی را کم کند و تجربه‌ی مشتری را بهتر کند، به شرطی که مثل هر کارمند تازه‌واردی، حدود اختیارش روشن باشد و کسی بر کارش نظارت کند. برای بحث کامل‌تر درباره‌ی تقسیم مسئولیت، مقاله‌ی مسئولیت حقوقی هوش مصنوعی را بخوانید.