چه اتفاقی افتاد؟
دیلویت استرالیا برای وزارت اشتغال و روابط کار این کشور گزارشی درباره‌ی سیستم جریمه‌های خودکار در نظام رفاهی تهیه کرد. گزارش در ژوئیه‌ی ۲۰۲۵ منتشر شد. کمی بعد یک پژوهشگر دانشگاه سیدنی متوجه شد که گزارش به مقاله‌های دانشگاهی ارجاع داده که اصلاً وجود ندارند و یک نقل‌قول ساختگی از حکم دادگاه فدرال هم در آن آمده است.
نسخه‌ی اصلاح‌شده‌ی گزارش اعلام کرد که در نگارش آن از یک مدل زبانی مولد (سرویس اوپن‌ای‌آی روی اَژور مایکروسافت) استفاده شده است. در اکتبر ۲۰۲۵ اعلام شد که دیلویت بخشی از مبلغ قرارداد را برمی‌گرداند. وزارتخانه گفت توصیه‌های اصلی گزارش تغییری نکرده است.
چرا مهم است؟
این اتفاق برای یکی از بزرگ‌ترین شرکت‌های مشاوره‌ی دنیا افتاد، نه یک استارتاپ کوچک. «توهم» مدل‌های زبانی وقتی بدون بازبینی انسانی وارد یک خروجی رسمی شود، مستقیماً به پول و اعتبار تبدیل می‌شود.
Lessons for your organization
- هر ارجاع، عدد و نقل‌قولی که با هوش مصنوعی تولید شده باید پیش از تحویل به منبع اصلی چک شود.
- استفاده از هوش مصنوعی در تهیه‌ی خروجی برای مشتری باید شفاف اعلام شود و در قرارداد روشن باشد.
- مسئولیت کیفیت با امضاکننده‌ی گزارش است، نه با ابزار.
Where NIST AI RMF would have helped
The NIST risk management functions most relevant to this incident.
- Govern — roles, policy, accountability
- Measure — test and assess
Full analysis in the article
توهم هوش مصنوعی (AI Hallucination) چیست و چرا برای تصمیمات کسب‌وکار خطرناک است؟