کنترل ریسک چت‌بات مشتریان در یک بانک

نسخه آزمایشی چت‌بات در بخشی از پاسخ‌ها اطلاعات نادرست درباره نرخ و شرایط تسهیلات می‌داد و واحد بازاریابی برای راه‌اندازی عمومی عجله داشت.

اطلاعات نادرست مالی به مشتری، شکایت و ریسک حقوقی، و آسیب به اعتماد عمومی.

ارزیابی مورد استفاده و ثبت ریسک‌ها در Risk Register نشان داد دو ریسک در سطح «بحرانی» قرار دارند: اطلاعات نرخ و افشای اطلاعات حساب.

محدود کردن پاسخ‌ها به پایگاه دانش تأییدشده، ارجاع پرسش‌های نرخ و شرایط به کارشناس، اعلام شفاف تعامل با AI و پایش روزانه نمونه گفتگوها.

پس از اعمال کنترل‌ها، آزمون مجدد با معیار پذیرش مشخص انجام شد و راه‌اندازی به‌صورت مرحله‌ای، ابتدا برای بخش کوچکی از کاربران، صورت گرفت.

راه‌اندازی با چند هفته تأخیر اما با کنترل‌های مستند انجام شد و خطاهای اطلاعات نرخ در پایش‌های پس از انتشار به سطح قابل‌قبول رسید.