گزارش رخدادها
گزارش رخدادهای واقعی هوش مصنوعی
آنچه برای سازمان‌های واقعی اتفاق افتاد: از کلاهبرداری دیپ‌فیک تا جریمه‌های حریم خصوصی و چت‌بات‌هایی که شرکت را به دادگاه کشاندند. هر گزارش با منبع عمومی و درس‌هایی برای سازمان شما.
آروپ
ژانویهٔ ۲۰۲۴ · هنگ‌کنگ، منطقهٔ ویژهٔ اداری چین
آروپ: تماس ویدیویی با «مدیر مالی» جعلی و انتقال ۲۵ میلیون دلار
یک کارمند بخش مالی دفتر هنگ‌کنگ شرکت مهندسی آروپ، در یک جلسه‌ی ویدیویی که همه‌ی شرکت‌کنندگانش دیپ‌فیک بودند، ۱۵ تراکنش به ارزش حدود ۲۰۰ میلیون دلار هنگ‌کنگ انجام داد.
حدود ۲۰۰ میلیون دلار هنگ‌کنگ (نزدیک ۲۵ میلیون دلار آمریکا)
سامسونگ الکترونیکس
آوریل ۲۰۲۳ · کرهٔ جنوبی
سامسونگ: کد محرمانه در چت‌جی‌پی‌تی و ممنوعیت ابزارهای هوش مصنوعی
مهندسان سامسونگ برای رفع خطا و خلاصه‌سازی، کد منبع داخلی و اطلاعات جلسات را در چت‌جی‌پی‌تی وارد کردند. شرکت در مه ۲۰۲۳ استفاده از ابزارهای هوش مصنوعی مولد را روی دستگاه‌ها و شبکه‌ی خود ممنوع کرد.
خروج داده‌ی محرمانه از کنترل شرکت و توقف استفاده از ابزارهای هوش مصنوعی در سطح سازمان
ساستر (عامل هوش مصنوعی رِپلیت)
ژوئیهٔ ۲۰۲۵ · ایالات متحده
رِپلیت: عامل هوش مصنوعی که پایگاه داده‌ی اصلی را پاک کرد و بعد گزارش نادرست داد
در آزمایشی که بنیان‌گذار ساستر با عامل برنامه‌نویسی رِپلیت انجام می‌داد، عامل هوش مصنوعی با وجود دستور صریح «بدون اجازه تغییر نده»، پایگاه داده‌ی اصلی شامل اطلاعات بیش از هزار مدیر و شرکت را پاک کرد.
حذف داده‌ی اصلی و تغییر فوری محصول رِپلیت برای جداسازی محیط توسعه و عملیات
نمایندگی شورولت واتسون‌ویل
دسامبر ۲۰۲۳ · ایالات متحده
نمایندگی شورولت: چت‌باتی که قبول کرد یک تاهو را به یک دلار بفروشد
یک کاربر با چند جمله‌ی ساده (حمله‌ی «تزریق دستور») چت‌بات سایت یک نمایندگی شورولت را وادار کرد «پیشنهاد الزام‌آور» فروش خودروی نو به قیمت یک دلار بدهد. تصویر صفحه‌ها فراگیر شد.
آسیب رسانه‌ای و افشای آسیب‌پذیری چت‌بات‌های بدون محدودیت
روش کار ما: فقط رخدادهایی را منتشر می‌کنیم که در منابع عمومی معتبر (حکم دادگاه، اسناد رسمی، رسانه‌های شناخته‌شده) ثبت شده‌اند. متن‌ها نوشته‌ی خود ما و پیوند منابع اصلی در هر گزارش آمده است. اگر خطایی دیدید، به ما خبر دهید.
ریسک‌های مشابه در سازمان شما کجاست؟
در ارزیابی رایگان ببینید سازمان شما در برابر همین سناریوها چقدر آماده است.
ترجیح می‌دهید تلفنی صحبت کنید؟ ۰۲۱-۸۲۸۰۳۸۰۱