گزارش رخدادها
گزارش رخدادهای واقعی هوش مصنوعی
آنچه برای سازمان‌های واقعی اتفاق افتاد: از کلاهبرداری دیپ‌فیک تا جریمه‌های حریم خصوصی و چت‌بات‌هایی که شرکت را به دادگاه کشاندند. هر گزارش با منبع عمومی و درس‌هایی برای سازمان شما.
دیلویت استرالیا
اکتبر ۲۰۲۵ · استرالیا
دیلویت استرالیا: گزارش دولتی با ارجاعات ساختگی و بازپرداخت بخشی از قرارداد
گزارشی که دیلویت در ازای ۴۴۰ هزار دلار استرالیا برای یک وزارتخانه نوشته بود، پر از منابع ناموجود و نقل‌قول ساختگی از یک حکم دادگاه بود. دیلویت پذیرفت بخشی از مبلغ را برگرداند.
بازپرداخت بخشی از قرارداد ۴۴۰ هزار دلار استرالیا و آسیب جدی به اعتبار
ایرکانادا
فوریهٔ ۲۰۲۴ · کانادا
ایرکانادا: دادگاه گفت شرکت مسئول حرف چت‌باتش است
چت‌بات سایت ایرکانادا درباره‌ی بلیت سوگواری اطلاعات اشتباه داد. ایرکانادا ادعا کرد چت‌بات «نهاد جداگانه» است، اما دادگاه این دفاع را رد کرد و شرکت را به پرداخت خسارت محکوم کرد.
حکم پرداخت حدود ۸۱۲ دلار کانادا (خسارت، بهره و هزینه‌ها) و یک سابقه‌ی حقوقی مهم
آروپ
ژانویهٔ ۲۰۲۴ · هنگ‌کنگ، منطقهٔ ویژهٔ اداری چین
آروپ: تماس ویدیویی با «مدیر مالی» جعلی و انتقال ۲۵ میلیون دلار
یک کارمند بخش مالی دفتر هنگ‌کنگ شرکت مهندسی آروپ، در یک جلسه‌ی ویدیویی که همه‌ی شرکت‌کنندگانش دیپ‌فیک بودند، ۱۵ تراکنش به ارزش حدود ۲۰۰ میلیون دلار هنگ‌کنگ انجام داد.
حدود ۲۰۰ میلیون دلار هنگ‌کنگ (نزدیک ۲۵ میلیون دلار آمریکا)
سامسونگ الکترونیکس
آوریل ۲۰۲۳ · کرهٔ جنوبی
سامسونگ: کد محرمانه در چت‌جی‌پی‌تی و ممنوعیت ابزارهای هوش مصنوعی
مهندسان سامسونگ برای رفع خطا و خلاصه‌سازی، کد منبع داخلی و اطلاعات جلسات را در چت‌جی‌پی‌تی وارد کردند. شرکت در مه ۲۰۲۳ استفاده از ابزارهای هوش مصنوعی مولد را روی دستگاه‌ها و شبکه‌ی خود ممنوع کرد.
خروج داده‌ی محرمانه از کنترل شرکت و توقف استفاده از ابزارهای هوش مصنوعی در سطح سازمان
ساستر (عامل هوش مصنوعی رِپلیت)
ژوئیهٔ ۲۰۲۵ · ایالات متحده
رِپلیت: عامل هوش مصنوعی که پایگاه داده‌ی اصلی را پاک کرد و بعد گزارش نادرست داد
در آزمایشی که بنیان‌گذار ساستر با عامل برنامه‌نویسی رِپلیت انجام می‌داد، عامل هوش مصنوعی با وجود دستور صریح «بدون اجازه تغییر نده»، پایگاه داده‌ی اصلی شامل اطلاعات بیش از هزار مدیر و شرکت را پاک کرد.
حذف داده‌ی اصلی و تغییر فوری محصول رِپلیت برای جداسازی محیط توسعه و عملیات
اوپن‌ای‌آی
دسامبر ۲۰۲۴ · ایتالیا
ایتالیا ۱۵ میلیون یورو اوپن‌ای‌آی را جریمه کرد
نهاد حفاظت از داده‌ی ایتالیا (گارانته) اعلام کرد اوپن‌ای‌آی برای آموزش چت‌جی‌پی‌تی بدون مبنای قانونی کافی داده‌ی شخصی پردازش کرده، یک رخداد امنیتی را گزارش نکرده و احراز سن مناسب نداشته است.
۱۵ میلیون یورو جریمه و الزام به پویش آگاهی‌رسانی شش‌ماهه
کلیرویو
سپتامبر ۲۰۲۴ · هلند
کلیرویو: ۳۰٫۵ میلیون یورو جریمه برای پایگاه داده‌ی چهره
نهاد حفاظت از داده‌ی هلند، کلیرویو را به‌خاطر ساخت پایگاه داده‌ای از بیش از ۳۰ میلیارد عکس جمع‌آوری‌شده از اینترنت و تبدیل آن‌ها به داده‌ی زیست‌سنجی ۳۰٫۵ میلیون یورو جریمه کرد.
۳۰٫۵ میلیون یورو جریمه و دستور توقف، با جریمه‌ی اضافی در صورت عدم اجرا
شهرداری نیویورک (چت‌بات «شهر من»)
مارس ۲۰۲۴ · ایالات متحده
چت‌بات شهرداری نیویورک که به کسب‌وکارها توصیه‌ی غیرقانونی می‌داد
تحقیق رسانه‌ی «مارک‌آپ» نشان داد چت‌بات رسمی «شهر من» به کارفرمایان و صاحبان ملک توصیه‌هایی می‌دهد که خلاف قانون است، از برداشتن انعام کارکنان تا تبعیض علیه مستأجران.
خطر حقوقی برای کسب‌وکارهایی که به توصیه‌ها عمل کنند و آسیب به اعتماد عمومی
دی‌پی‌دی
ژانویهٔ ۲۰۲۴ · بریتانیا
دی‌پی‌دی: چت‌بات پشتیبانی که ناسزا گفت و شرکت را «بدترین» نامید
یک مشتری که دنبال بسته‌ی گم‌شده‌اش بود، چت‌بات دی‌پی‌دی را وادار کرد ناسزا بگوید و شعری در انتقاد از شرکت بنویسد. نوشته‌ی او در ۲۴ ساعت ۸۰۰ هزار بار دیده شد و دی‌پی‌دی بخش هوش مصنوعی را خاموش کرد.
آسیب رسانه‌ای گسترده و خاموش کردن بخش هوش مصنوعی چت‌بات
نمایندگی شورولت واتسون‌ویل
دسامبر ۲۰۲۳ · ایالات متحده
نمایندگی شورولت: چت‌باتی که قبول کرد یک تاهو را به یک دلار بفروشد
یک کاربر با چند جمله‌ی ساده (حمله‌ی «تزریق دستور») چت‌بات سایت یک نمایندگی شورولت را وادار کرد «پیشنهاد الزام‌آور» فروش خودروی نو به قیمت یک دلار بدهد. تصویر صفحه‌ها فراگیر شد.
آسیب رسانه‌ای و افشای آسیب‌پذیری چت‌بات‌های بدون محدودیت
آی‌توتور گروپ
سپتامبر ۲۰۲۳ · ایالات متحده
آی‌توتور گروپ: نرم‌افزار استخدامی که متقاضیان مسن را خودکار رد می‌کرد
کمیسیون فرصت‌های برابر شغلی آمریکا اعلام کرد نرم‌افزار جذب آی‌توتور گروپ زنان ۵۵ سال به بالا و مردان ۶۰ سال به بالا را خودکار رد می‌کرد. شرکت برای حل‌وفصل پرونده ۳۶۵ هزار دلار پرداخت.
۳۶۵٬۰۰۰ دلار و الزام به سیاست‌ها و آموزش ضدتبعیض
مؤسسه‌ی حقوقی لِویدو، لِویدو و اوبرمن
ژوئن ۲۰۲۳ · ایالات متحده
پرونده‌ی «ماتا علیه آویانکا»: وکلایی که به پرونده‌های ساختگی چت‌جی‌پی‌تی استناد کردند
دو وکیل در نیویورک لایحه‌ای به دادگاه دادند که به چند حکم قضایی ناموجود استناد می‌کرد. آن احکام را چت‌جی‌پی‌تی ساخته بود. دادگاه وکلا و مؤسسه را جریمه کرد.
۵٬۰۰۰ دلار جریمه، الزام به اطلاع‌رسانی به قضات و آسیب گسترده به اعتبار حرفه‌ای
آلفابت (گوگل)
فوریهٔ ۲۰۲۳ · ایالات متحده
گوگل بارد: یک پاسخ اشتباه در تبلیغ و ۱۰۰ میلیارد دلار کاهش ارزش بازار
در تبلیغ معرفی بارد، چت‌بات گفت تلسکوپ جیمز وب نخستین عکس از سیاره‌های فراخورشیدی را گرفته است که نادرست بود. سهام آلفابت در یک روز حدود ۷٫۷٪ افت کرد.
حدود ۱۰۰ میلیارد دلار کاهش ارزش بازار در یک روز
زیلو
نوامبر ۲۰۲۱ · ایالات متحده
زیلو: قیمت‌گذاری الگوریتمی خانه، ۳۰۴ میلیون دلار زیان و تعطیلی یک کسب‌وکار
زیلو با تکیه بر مدل‌های پیش‌بینی قیمت، خانه می‌خرید تا بفروشد. در سه‌ماهه‌ی سوم ۲۰۲۱ خانه‌ها را گران‌تر از ارزش فروش آینده خرید، ۳۰۴ میلیون دلار زیان شناسایی کرد و کل کسب‌وکار را تعطیل کرد.
۳۰۴٫۴ میلیون دلار کاهش ارزش موجودی، تعطیلی واحد و تعدیل حدود ۲۵٪ نیروی کار
آمازون
اکتبر ۲۰۱۸ · ایالات متحده
آمازون: ابزار استخدام هوشمندی که یاد گرفته بود زنان را پایین‌تر رتبه دهد
آمازون سال‌ها روی مدلی برای امتیازدهی خودکار به رزومه‌ها کار کرد. مدل از داده‌های ده‌ساله‌ی استخدام یاد گرفته بود که رزومه‌های حاوی کلمه‌ی «زنان» را پایین‌تر رتبه دهد. پروژه کنار گذاشته شد.
کنار گذاشتن پروژه پس از چند سال توسعه و آسیب رسانه‌ای
روش کار ما: فقط رخدادهایی را منتشر می‌کنیم که در منابع عمومی معتبر (حکم دادگاه، اسناد رسمی، رسانه‌های شناخته‌شده) ثبت شده‌اند. متن‌ها نوشته‌ی خود ما و پیوند منابع اصلی در هر گزارش آمده است. اگر خطایی دیدید، به ما خبر دهید.
ریسک‌های مشابه در سازمان شما کجاست؟
در ارزیابی رایگان ببینید سازمان شما در برابر همین سناریوها چقدر آماده است.
ترجیح می‌دهید تلفنی صحبت کنید؟ ۰۲۱-۸۲۸۰۳۸۰۱