Skip to content

گزارش رخداد

دیلویت استرالیا: گزارش دولتی با ارجاعات ساختگی و بازپرداخت بخشی از قرارداد

گزارشی که دیلویت در ازای ۴۴۰ هزار دلار استرالیا برای یک وزارتخانه نوشته بود، پر از منابع ناموجود و نقل‌قول ساختگی از یک حکم دادگاه بود. دیلویت پذیرفت بخشی از مبلغ را برگرداند.

چه اتفاقی افتاد؟

دیلویت استرالیا برای وزارت اشتغال و روابط کار این کشور گزارشی درباره‌ی سیستم جریمه‌های خودکار در نظام رفاهی تهیه کرد. گزارش در ژوئیه‌ی ۲۰۲۵ منتشر شد. کمی بعد یک پژوهشگر دانشگاه سیدنی متوجه شد که گزارش به مقاله‌های دانشگاهی ارجاع داده که اصلاً وجود ندارند و یک نقل‌قول ساختگی از حکم دادگاه فدرال هم در آن آمده است.

نسخه‌ی اصلاح‌شده‌ی گزارش اعلام کرد که در نگارش آن از یک مدل زبانی مولد (سرویس اوپن‌ای‌آی روی اَژور مایکروسافت) استفاده شده است. در اکتبر ۲۰۲۵ اعلام شد که دیلویت بخشی از مبلغ قرارداد را برمی‌گرداند. وزارتخانه گفت توصیه‌های اصلی گزارش تغییری نکرده است.

چرا مهم است؟

این اتفاق برای یکی از بزرگ‌ترین شرکت‌های مشاوره‌ی دنیا افتاد، نه یک استارتاپ کوچک. «توهم» مدل‌های زبانی وقتی بدون بازبینی انسانی وارد یک خروجی رسمی شود، مستقیماً به پول و اعتبار تبدیل می‌شود.

درس‌ها برای سازمان شما

  • هر ارجاع، عدد و نقل‌قولی که با هوش مصنوعی تولید شده باید پیش از تحویل به منبع اصلی چک شود.
  • استفاده از هوش مصنوعی در تهیه‌ی خروجی برای مشتری باید شفاف اعلام شود و در قرارداد روشن باشد.
  • مسئولیت کیفیت با امضاکننده‌ی گزارش است، نه با ابزار.

کدام بخش از چارچوب مدیریت ریسک می‌توانست جلوی آن را بگیرد؟

کارکردهای چارچوب مدیریت ریسک هوش مصنوعی مؤسسه‌ی ملی استاندارد آمریکا (NIST) که بیشترین ارتباط را با این رخداد دارند.

  • حکمرانی — نقش‌ها، سیاست و پاسخ‌گویی
  • سنجش — آزمون و اندازه‌گیری

تحلیل کامل در مقاله

توهم هوش مصنوعی (AI Hallucination) چیست و چرا برای تصمیمات کسب‌وکار خطرناک است؟

سازمان شما در برابر این سناریو آماده است؟

با ارزیابی رایگان، شکاف‌های حاکمیت و ریسک هوش مصنوعی را پیدا کنید.

ترجیح می‌دهید تلفنی صحبت کنید؟ ۰۲۱-۸۲۸۰۳۸۰۱