چه اتفاقی افتاد؟
در نوامبر ۲۰۲۲، آقای موفات پس از فوت مادربزرگش از چت‌بات سایت ایرکانادا درباره‌ی تخفیف سوگواری پرسید. چت‌بات گفت می‌تواند بلیت را با قیمت عادی بخرد و تا ۹۰ روز بعد درخواست بازپرداخت تفاوت قیمت را بدهد. سیاست واقعی شرکت اجازه‌ی درخواست بعد از سفر را نمی‌داد و ایرکانادا درخواستش را رد کرد.
در دادگاه حل اختلاف بریتیش کلمبیا (پرونده‌ی «موفات علیه ایرکانادا»، شماره‌ی ۱۴۹ سال ۲۰۲۴)، ایرکانادا استدلال کرد که چت‌بات «نهاد حقوقی جداگانه‌ای» است و مسئول حرف‌هایش است. دادگاه این استدلال را رد کرد و گفت شرکت مسئول همه‌ی اطلاعات سایت خودش است، چه در یک صفحه‌ی ثابت باشد و چه در پاسخ چت‌بات. ایرکانادا به پرداخت تفاوت قیمت به‌علاوه‌ی بهره و هزینه‌ها محکوم شد.
چرا مهم است؟
مبلغ کم بود، اما پیام حکم بزرگ است: اگر یک چت‌بات هوش مصنوعی از طرف شرکت با مشتری حرف می‌زند، حرف آن حرف شرکت است. «هوش مصنوعی اشتباه کرد» دفاع حقوقی نیست.
Lessons for your organization
- چت‌بات مشتری‌محور را مثل یک کارمند پاسخگو ببینید: پاسخ‌هایش تعهد شرکت است.
- پاسخ‌های مربوط به قیمت، بازپرداخت و قرارداد باید از منبع رسمی و کنترل‌شده بیاید، نه از تولید آزاد مدل.
- پاسخ‌های چت‌بات را به‌طور دوره‌ای با سیاست‌های واقعی شرکت مقایسه و پایش کنید.
Where NIST AI RMF would have helped
The NIST risk management functions most relevant to this incident.
- Govern — roles, policy, accountability
- Measure — test and assess
- Manage — control, monitor, respond
Full analysis in the article
پرونده‌ی چت‌بات ایرکانادا: وقتی شرکت مجبور شد به قول چت‌باتش عمل کند