گزارش رخدادها
گزارش رخدادهای واقعی هوش مصنوعی
آنچه برای سازمان‌های واقعی اتفاق افتاد: از کلاهبرداری دیپ‌فیک تا جریمه‌های حریم خصوصی و چت‌بات‌هایی که شرکت را به دادگاه کشاندند. هر گزارش با منبع عمومی و درس‌هایی برای سازمان شما.
دیلویت استرالیا
اکتبر ۲۰۲۵ · استرالیا
دیلویت استرالیا: گزارش دولتی با ارجاعات ساختگی و بازپرداخت بخشی از قرارداد
گزارشی که دیلویت در ازای ۴۴۰ هزار دلار استرالیا برای یک وزارتخانه نوشته بود، پر از منابع ناموجود و نقل‌قول ساختگی از یک حکم دادگاه بود. دیلویت پذیرفت بخشی از مبلغ را برگرداند.
بازپرداخت بخشی از قرارداد ۴۴۰ هزار دلار استرالیا و آسیب جدی به اعتبار
ایرکانادا
فوریهٔ ۲۰۲۴ · کانادا
ایرکانادا: دادگاه گفت شرکت مسئول حرف چت‌باتش است
چت‌بات سایت ایرکانادا درباره‌ی بلیت سوگواری اطلاعات اشتباه داد. ایرکانادا ادعا کرد چت‌بات «نهاد جداگانه» است، اما دادگاه این دفاع را رد کرد و شرکت را به پرداخت خسارت محکوم کرد.
حکم پرداخت حدود ۸۱۲ دلار کانادا (خسارت، بهره و هزینه‌ها) و یک سابقه‌ی حقوقی مهم
شهرداری نیویورک (چت‌بات «شهر من»)
مارس ۲۰۲۴ · ایالات متحده
چت‌بات شهرداری نیویورک که به کسب‌وکارها توصیه‌ی غیرقانونی می‌داد
تحقیق رسانه‌ی «مارک‌آپ» نشان داد چت‌بات رسمی «شهر من» به کارفرمایان و صاحبان ملک توصیه‌هایی می‌دهد که خلاف قانون است، از برداشتن انعام کارکنان تا تبعیض علیه مستأجران.
خطر حقوقی برای کسب‌وکارهایی که به توصیه‌ها عمل کنند و آسیب به اعتماد عمومی
دی‌پی‌دی
ژانویهٔ ۲۰۲۴ · بریتانیا
دی‌پی‌دی: چت‌بات پشتیبانی که ناسزا گفت و شرکت را «بدترین» نامید
یک مشتری که دنبال بسته‌ی گم‌شده‌اش بود، چت‌بات دی‌پی‌دی را وادار کرد ناسزا بگوید و شعری در انتقاد از شرکت بنویسد. نوشته‌ی او در ۲۴ ساعت ۸۰۰ هزار بار دیده شد و دی‌پی‌دی بخش هوش مصنوعی را خاموش کرد.
آسیب رسانه‌ای گسترده و خاموش کردن بخش هوش مصنوعی چت‌بات
نمایندگی شورولت واتسون‌ویل
دسامبر ۲۰۲۳ · ایالات متحده
نمایندگی شورولت: چت‌باتی که قبول کرد یک تاهو را به یک دلار بفروشد
یک کاربر با چند جمله‌ی ساده (حمله‌ی «تزریق دستور») چت‌بات سایت یک نمایندگی شورولت را وادار کرد «پیشنهاد الزام‌آور» فروش خودروی نو به قیمت یک دلار بدهد. تصویر صفحه‌ها فراگیر شد.
آسیب رسانه‌ای و افشای آسیب‌پذیری چت‌بات‌های بدون محدودیت
مؤسسه‌ی حقوقی لِویدو، لِویدو و اوبرمن
ژوئن ۲۰۲۳ · ایالات متحده
پرونده‌ی «ماتا علیه آویانکا»: وکلایی که به پرونده‌های ساختگی چت‌جی‌پی‌تی استناد کردند
دو وکیل در نیویورک لایحه‌ای به دادگاه دادند که به چند حکم قضایی ناموجود استناد می‌کرد. آن احکام را چت‌جی‌پی‌تی ساخته بود. دادگاه وکلا و مؤسسه را جریمه کرد.
۵٬۰۰۰ دلار جریمه، الزام به اطلاع‌رسانی به قضات و آسیب گسترده به اعتبار حرفه‌ای
آلفابت (گوگل)
فوریهٔ ۲۰۲۳ · ایالات متحده
گوگل بارد: یک پاسخ اشتباه در تبلیغ و ۱۰۰ میلیارد دلار کاهش ارزش بازار
در تبلیغ معرفی بارد، چت‌بات گفت تلسکوپ جیمز وب نخستین عکس از سیاره‌های فراخورشیدی را گرفته است که نادرست بود. سهام آلفابت در یک روز حدود ۷٫۷٪ افت کرد.
حدود ۱۰۰ میلیارد دلار کاهش ارزش بازار در یک روز
آمازون
اکتبر ۲۰۱۸ · ایالات متحده
آمازون: ابزار استخدام هوشمندی که یاد گرفته بود زنان را پایین‌تر رتبه دهد
آمازون سال‌ها روی مدلی برای امتیازدهی خودکار به رزومه‌ها کار کرد. مدل از داده‌های ده‌ساله‌ی استخدام یاد گرفته بود که رزومه‌های حاوی کلمه‌ی «زنان» را پایین‌تر رتبه دهد. پروژه کنار گذاشته شد.
کنار گذاشتن پروژه پس از چند سال توسعه و آسیب رسانه‌ای
روش کار ما: فقط رخدادهایی را منتشر می‌کنیم که در منابع عمومی معتبر (حکم دادگاه، اسناد رسمی، رسانه‌های شناخته‌شده) ثبت شده‌اند. متن‌ها نوشته‌ی خود ما و پیوند منابع اصلی در هر گزارش آمده است. اگر خطایی دیدید، به ما خبر دهید.
ریسک‌های مشابه در سازمان شما کجاست؟
در ارزیابی رایگان ببینید سازمان شما در برابر همین سناریوها چقدر آماده است.
ترجیح می‌دهید تلفنی صحبت کنید؟ ۰۲۱-۸۲۸۰۳۸۰۱