چه اتفاقی افتاد؟
در نوامبر ۲۰۲۲، آقای موفات پس از فوت مادربزرگش از چتبات سایت ایرکانادا دربارهی تخفیف سوگواری پرسید. چتبات گفت میتواند بلیت را با قیمت عادی بخرد و تا ۹۰ روز بعد درخواست بازپرداخت تفاوت قیمت را بدهد. سیاست واقعی شرکت اجازهی درخواست بعد از سفر را نمیداد و ایرکانادا درخواستش را رد کرد.
در دادگاه حل اختلاف بریتیش کلمبیا (پروندهی «موفات علیه ایرکانادا»، شمارهی ۱۴۹ سال ۲۰۲۴)، ایرکانادا استدلال کرد که چتبات «نهاد حقوقی جداگانهای» است و مسئول حرفهایش است. دادگاه این استدلال را رد کرد و گفت شرکت مسئول همهی اطلاعات سایت خودش است، چه در یک صفحهی ثابت باشد و چه در پاسخ چتبات. ایرکانادا به پرداخت تفاوت قیمت بهعلاوهی بهره و هزینهها محکوم شد.
چرا مهم است؟
مبلغ کم بود، اما پیام حکم بزرگ است: اگر یک چتبات هوش مصنوعی از طرف شرکت با مشتری حرف میزند، حرف آن حرف شرکت است. «هوش مصنوعی اشتباه کرد» دفاع حقوقی نیست.
درسها برای سازمان شما
- چتبات مشتریمحور را مثل یک کارمند پاسخگو ببینید: پاسخهایش تعهد شرکت است.
- پاسخهای مربوط به قیمت، بازپرداخت و قرارداد باید از منبع رسمی و کنترلشده بیاید، نه از تولید آزاد مدل.
- پاسخهای چتبات را بهطور دورهای با سیاستهای واقعی شرکت مقایسه و پایش کنید.
کدام بخش از چارچوب مدیریت ریسک میتوانست جلوی آن را بگیرد؟
کارکردهای چارچوب مدیریت ریسک هوش مصنوعی مؤسسهی ملی استاندارد آمریکا (NIST) که بیشترین ارتباط را با این رخداد دارند.
- حکمرانی — نقشها، سیاست و پاسخگویی
- سنجش — آزمون و اندازهگیری
- مدیریت — کنترل، پایش و واکنش
تحلیل کامل در مقاله
پروندهی چتبات ایرکانادا: وقتی شرکت مجبور شد به قول چتباتش عمل کند