Case Study
Risk controls for a bank’s customer chatbot
A bank assessed and controlled risks before launching an AI chatbot for loan questions.
- 01
Problem
نسخه آزمایشی چتبات در بخشی از پاسخها اطلاعات نادرست درباره نرخ و شرایط تسهیلات میداد و واحد بازاریابی برای راهاندازی عمومی عجله داشت.
- 02
Risk
اطلاعات نادرست مالی به مشتری، شکایت و ریسک حقوقی، و آسیب به اعتماد عمومی.
- 03
Assessment
ارزیابی مورد استفاده و ثبت ریسکها در Risk Register نشان داد دو ریسک در سطح «بحرانی» قرار دارند: اطلاعات نرخ و افشای اطلاعات حساب.
- 04
Solution
محدود کردن پاسخها به پایگاه دانش تأییدشده، ارجاع پرسشهای نرخ و شرایط به کارشناس، اعلام شفاف تعامل با AI و پایش روزانه نمونه گفتگوها.
- 05
Implementation
پس از اعمال کنترلها، آزمون مجدد با معیار پذیرش مشخص انجام شد و راهاندازی بهصورت مرحلهای، ابتدا برای بخش کوچکی از کاربران، صورت گرفت.
- 06
Result
راهاندازی با چند هفته تأخیر اما با کنترلهای مستند انجام شد و خطاهای اطلاعات نرخ در پایشهای پس از انتشار به سطح قابلقبول رسید.
A similar path for your organization
Prefer to talk on the phone? +98 21 8280 3801