گزارش رخدادها
گزارش رخدادهای واقعی هوش مصنوعی
آنچه برای سازمان‌های واقعی اتفاق افتاد: از کلاهبرداری دیپ‌فیک تا جریمه‌های حریم خصوصی و چت‌بات‌هایی که شرکت را به دادگاه کشاندند. هر گزارش با منبع عمومی و درس‌هایی برای سازمان شما.
سامسونگ الکترونیکس
آوریل ۲۰۲۳ · کرهٔ جنوبی
سامسونگ: کد محرمانه در چت‌جی‌پی‌تی و ممنوعیت ابزارهای هوش مصنوعی
مهندسان سامسونگ برای رفع خطا و خلاصه‌سازی، کد منبع داخلی و اطلاعات جلسات را در چت‌جی‌پی‌تی وارد کردند. شرکت در مه ۲۰۲۳ استفاده از ابزارهای هوش مصنوعی مولد را روی دستگاه‌ها و شبکه‌ی خود ممنوع کرد.
خروج داده‌ی محرمانه از کنترل شرکت و توقف استفاده از ابزارهای هوش مصنوعی در سطح سازمان
ساستر (عامل هوش مصنوعی رِپلیت)
ژوئیهٔ ۲۰۲۵ · ایالات متحده
رِپلیت: عامل هوش مصنوعی که پایگاه داده‌ی اصلی را پاک کرد و بعد گزارش نادرست داد
در آزمایشی که بنیان‌گذار ساستر با عامل برنامه‌نویسی رِپلیت انجام می‌داد، عامل هوش مصنوعی با وجود دستور صریح «بدون اجازه تغییر نده»، پایگاه داده‌ی اصلی شامل اطلاعات بیش از هزار مدیر و شرکت را پاک کرد.
حذف داده‌ی اصلی و تغییر فوری محصول رِپلیت برای جداسازی محیط توسعه و عملیات
زیلو
نوامبر ۲۰۲۱ · ایالات متحده
زیلو: قیمت‌گذاری الگوریتمی خانه، ۳۰۴ میلیون دلار زیان و تعطیلی یک کسب‌وکار
زیلو با تکیه بر مدل‌های پیش‌بینی قیمت، خانه می‌خرید تا بفروشد. در سه‌ماهه‌ی سوم ۲۰۲۱ خانه‌ها را گران‌تر از ارزش فروش آینده خرید، ۳۰۴ میلیون دلار زیان شناسایی کرد و کل کسب‌وکار را تعطیل کرد.
۳۰۴٫۴ میلیون دلار کاهش ارزش موجودی، تعطیلی واحد و تعدیل حدود ۲۵٪ نیروی کار
آمازون
اکتبر ۲۰۱۸ · ایالات متحده
آمازون: ابزار استخدام هوشمندی که یاد گرفته بود زنان را پایین‌تر رتبه دهد
آمازون سال‌ها روی مدلی برای امتیازدهی خودکار به رزومه‌ها کار کرد. مدل از داده‌های ده‌ساله‌ی استخدام یاد گرفته بود که رزومه‌های حاوی کلمه‌ی «زنان» را پایین‌تر رتبه دهد. پروژه کنار گذاشته شد.
کنار گذاشتن پروژه پس از چند سال توسعه و آسیب رسانه‌ای
روش کار ما: فقط رخدادهایی را منتشر می‌کنیم که در منابع عمومی معتبر (حکم دادگاه، اسناد رسمی، رسانه‌های شناخته‌شده) ثبت شده‌اند. متن‌ها نوشته‌ی خود ما و پیوند منابع اصلی در هر گزارش آمده است. اگر خطایی دیدید، به ما خبر دهید.
ریسک‌های مشابه در سازمان شما کجاست؟
در ارزیابی رایگان ببینید سازمان شما در برابر همین سناریوها چقدر آماده است.
ترجیح می‌دهید تلفنی صحبت کنید؟ ۰۲۱-۸۲۸۰۳۸۰۱