چه اتفاقی افتاد؟
در آوریل ۲۰۲۳، کمی بعد از اینکه سامسونگ به بخش نیمه‌هادی اجازه‌ی استفاده از چت‌جی‌پی‌تی را داده بود، گزارش شد که چند مهندس اطلاعات داخلی را در آن وارد کرده‌اند، از جمله کد منبع برای پیدا کردن خطا. مشکل این بود که داده‌ای که در یک سرویس عمومی وارد می‌شود روی سرورهای بیرونی ذخیره می‌شود و شرکت دیگر نمی‌تواند آن را پس بگیرد یا پاک کند.
در مه ۲۰۲۳ سامسونگ استفاده از چت‌جی‌پی‌تی، بارد، بینگ و ابزارهای مشابه را روی دستگاه‌ها و شبکه‌های شرکت ممنوع کرد. طبق گزارش‌ها، یک نظرسنجی داخلی هم نشان داده بود که حدود ۶۵٪ کارکنان این سرویس‌ها را ریسک امنیتی می‌دانند.
چرا مهم است؟
کارمندان سامسونگ قصد بدی نداشتند. می‌خواستند کارشان را سریع‌تر انجام دهند. مشکل نبودِ سیاست روشن، ابزار تأییدشده و آموزش درباره‌ی «چه داده‌ای نباید وارد هوش مصنوعی شود» بود. ممنوعیت کامل هم راه‌حل پایدار نیست، چون استفاده را به دستگاه‌های شخصی و «هوش مصنوعی سایه» (استفاده‌ی پنهان و تأییدنشده) منتقل می‌کند.
درس‌ها برای سازمان شما
- قبل از باز کردن دسترسی به ابزارهای هوش مصنوعی، طبقه‌بندی داده و فهرست «چه چیزی ممنوع است» را ابلاغ کنید.
- یک ابزار تأییدشده با تنظیمات حفاظت داده در اختیار کارکنان بگذارید تا سراغ حساب شخصی نروند.
- ممنوعیت کامل بدون جایگزین، استفاده را پنهان می‌کند، نه متوقف.
- آموزش باید با مثال واقعی باشد: کد، صورت‌جلسه و اطلاعات مشتری.
کدام بخش از چارچوب مدیریت ریسک می‌توانست جلوی آن را بگیرد؟
کارکردهای چارچوب مدیریت ریسک هوش مصنوعی مؤسسه‌ی ملی استاندارد آمریکا (NIST) که بیشترین ارتباط را با این رخداد دارند.
- حکمرانی — نقش‌ها، سیاست و پاسخ‌گویی
- شناخت — شناخت کاربرد و ریسک‌ها
تحلیل کامل در مقاله
امنیت اطلاعات در چت جی پی تی: کارمندان چطور داده‌ی محرمانه‌ی شرکت را ناخواسته لو می‌دهند؟
منابع
- فوربس استرالیا — سامسونگ پس از نشت کد حساس، استفاده‌ی کارکنان از چت‌جی‌پی‌تی را ممنوع کرد
- نشنال (به نقل از آسوشیتدپرس) — سامسونگ الکترونیکس استفاده‌ی کارکنان از چت‌جی‌پی‌تی را ممنوع کرد
- دِرَپ — سامسونگ با استناد به خطرهای امنیتی، استفاده‌ی کارکنان از هوش مصنوعی را محدود کرد
بازبینی: ۱۴ مهر ۱۴۰۵