امنیت اطلاعات در چت جی پی تی: کارمندان چطور داده‌ی محرمانه‌ی شرکت را ناخواسته لو می‌دهند؟

کارمندی که یک قرارداد را در ChatGPT کپی می‌کند تا خلاصه‌اش را بگیرد، معمولاً فکر نمی‌کند دارد داده‌ی شرکت را «منتشر» می‌کند. او فقط می‌خواهد کارش سریع‌تر تمام شود. اما از لحظه‌ای که آن متن در یک ابزار عمومی هوش مصنوعی وارد شد، کنترل آن از دست سازمان خارج شده است: روی سرورهای شرکت دیگری ذخیره می‌شود، تحت قوانین و قرارداد دیگری قرار می‌گیرد و ممکن است — بسته به تنظیمات — برای بهبود مدل هم استفاده شود. این مقاله توضیح می‌دهد دقیقاً چه اتفاقی می‌افتد و سازمان‌ها چطور می‌توانند جلوی آن را بگیرند.

پرونده‌ی سامسونگ: سه نشت در چند هفته

در بهار ۲۰۲۳، کمی بعد از اینکه سامسونگ به مهندسان بخش نیمه‌هادی اجازه‌ی استفاده از ChatGPT را داد، کارکنان در چند نوبت اطلاعات حساس را در این ابزار وارد کردند؛ از جمله کد منبع برای رفع خطا و یادداشت‌های یک جلسه‌ی داخلی برای تهیه‌ی صورت‌جلسه. نتیجه، به گزارش TechCrunch، این بود که سامسونگ در مه ۲۰۲۳ استفاده از ابزارهای هوش مصنوعی مولد را روی دستگاه‌های شرکت ممنوع کرد و در یادداشت داخلی نگرانی اصلی را این دانست که داده‌ی ارسال‌شده به این سرویس‌ها روی سرورهای خارجی ذخیره می‌شود و بازیابی و حذف آن دشوار است.

نکته‌ی مهم: هیچ‌کدام از این کارکنان قصد بدی نداشتند. همه دنبال انجام بهتر کارشان بودند.

این مشکل چقدر رایج است؟

شرکت امنیت داده‌ی Cyberhaven در بررسی رفتار واقعی کاربران در سال ۲۰۲۳ دید که بخشی از کارکنان شرکت‌های مشتری‌اش داده‌ی شرکت را در ChatGPT وارد کرده‌اند و حدود ۱۱٪ از آنچه کارکنان در این ابزار کپی می‌کردند، محرمانه بود: از اطلاعات مشتری و داده‌ی سلامت تا کد منبع و اسناد راهبردی. رشد سریع استفاده از ابزارهای AI از آن زمان، این عدد را کوچک‌تر نکرده است.

OWASP هم در فهرست ۱۰ ریسک اصلی برنامه‌های مبتنی بر مدل زبانی (OWASP Top 10 for LLM 2025)، «افشای اطلاعات حساس» را در رتبه‌ی دوم قرار داده است.

وقتی داده را در ChatGPT وارد می‌کنید، چه اتفاقی برایش می‌افتد؟

پاسخ به نوع حساب و تنظیمات بستگی دارد و همین تفاوت، نقطه‌ی کور بیشتر سازمان‌هاست:

۱. ذخیره‌سازی

گفت‌وگوها روی سرورهای ارائه‌دهنده ذخیره می‌شوند. حتی گزینه‌هایی مثل «گفت‌وگوی موقت» به معنای عدم ذخیره نیستند؛ طبق راهنمای کنترل داده‌ی OpenAI، این گفت‌وگوها هم برای مدتی (به‌طور معمول ۳۰ روز) برای پایش سوءاستفاده نگه داشته می‌شوند.

۲. استفاده برای آموزش مدل

در حساب‌های شخصی (رایگان و اشتراک‌های فردی)، گفت‌وگوها به‌طور پیش‌فرض ممکن است برای بهبود مدل استفاده شوند، مگر اینکه کاربر این گزینه را خاموش کند. در حساب‌های سازمانی (Business/Enterprise) و API، ارائه‌دهندگان اصلی اعلام کرده‌اند داده به‌طور پیش‌فرض برای آموزش استفاده نمی‌شود. یعنی یک ابزار واحد، بسته به نوع حساب، دو رفتار کاملاً متفاوت دارد. کارمندی که با حساب شخصی کار می‌کند، عملاً خارج از چتر حفاظتی سازمان است.

۳. بازبینی انسانی

برخی سرویس‌ها صراحتاً می‌گویند بخشی از گفت‌وگوها ممکن است توسط بازبین‌های انسانی خوانده شود. مثلاً صفحه‌ی حریم خصوصی Gemini به کاربران توصیه می‌کند اطلاعات محرمانه‌ای که نمی‌خواهند بازبین ببیند یا برای بهبود محصول استفاده شود، وارد نکنند.

۴. نگهداری به حکم دادگاه

داده‌ای که فکر می‌کنید پاک کرده‌اید، همیشه پاک نمی‌شود. در جریان دعوای حقوقی نیویورک‌تایمز علیه OpenAI، دادگاه در سال ۲۰۲۵ این شرکت را موقتاً ملزم کرد حتی گفت‌وگوهای حذف‌شده‌ی کاربران را نگه دارد؛ این دستور در اکتبر ۲۰۲۵ برای داده‌های جدید لغو شد، اما داده‌هایی که در آن مدت نگه‌داری شده بودند همچنان در دسترس ماندند (Engadget).

۵. خطا و رخنه در سمت ارائه‌دهنده

حتی بزرگ‌ترین شرکت‌ها هم خطا دارند. در ۲۰ مارس ۲۰۲۳ یک باگ در ChatGPT باعث شد برخی کاربران عنوان گفت‌وگوهای کاربران دیگر را ببینند و بخشی از اطلاعات پرداخت گروهی از مشترکان برای مدت کوتاهی قابل مشاهده شود. در ژانویه ۲۰۲۵ هم محققان Wiz یک پایگاه داده‌ی بدون محافظت متعلق به DeepSeek پیدا کردند که تاریخچه‌ی گفت‌وگوها و کلیدهای دسترسی را افشا می‌کرد.

آیا چت جی پی تی امن است؟

سؤال دقیق‌تر این است: «آیا استفاده‌ی ما از چت جی پی تی امن است؟» ارائه‌دهندگان بزرگ سرمایه‌گذاری امنیتی جدی دارند، اما امنیت ابزار، امنیت استفاده‌ی شما از آن نیست. سه عامل در کنترل خود سازمان است: کدام حساب (شخصی یا سازمانی)، کدام داده و کدام تنظیمات.

چه اطلاعاتی را هرگز نباید به چت جی پی تی داد؟

• اطلاعات شخصی مشتریان و کارکنان (کد ملی، شماره تماس، سوابق درمانی، حقوق)
• اطلاعات مالی غیرعمومی (صورت‌های مالی منتشرنشده، قیمت‌گذاری، حاشیه سود)
• قراردادها و مکاتبات حقوقی
• کد منبع، کلیدهای API، رمزها و پیکربندی سرورها
• اسناد راهبردی، طرح‌های محصول و اطلاعات مناقصه
• هر چیزی که در قرارداد محرمانگی (NDA) با مشتری یا شریک تعهد کرده‌اید

۶ قاعده‌ی عملی برای جلوگیری از نشت داده

1. ابزار تأییدشده‌ی سازمانی فراهم کنید. ممنوعیت خالی کار نمی‌کند؛ کارکنان به سراغ حساب شخصی می‌روند. یک گزینه‌ی رسمی با قرارداد سازمانی و تنظیمات کنترل‌شده بدهید.
2. طبقه‌بندی ساده‌ی داده داشته باشید. سه سطح کافی است: عمومی (مجاز)، داخلی (فقط در ابزار سازمانی)، محرمانه (هرگز).
3. ناشناس‌سازی را عادت کنید. نام مشتری، مبالغ و مشخصات را پیش از وارد کردن حذف یا جایگزین کنید.
4. آموزش ۳۰ دقیقه‌ای بدهید. بیشتر نشت‌ها از ناآگاهی است. نمونه‌ی سامسونگ را در آموزش تعریف کنید.
5. کنترل فنی اضافه کنید. در سازمان‌های بزرگ‌تر، ابزارهای جلوگیری از نشت داده (DLP) و محدودیت دسترسی به سرویس‌های تأییدنشده کمک می‌کنند.
6. مسیر گزارش اشتباه بسازید. کارمندی که اشتباهی داده را وارد کرده، باید بدون ترس گزارش دهد تا تیم امنیت بتواند (مثلاً با حذف گفت‌وگو و تغییر کلیدها) آسیب را کم کند.

این قواعد را می‌توانید مستقیماً در سیاست استفاده از هوش مصنوعی سازمان بگنجانید. برای شناخت پدیده‌ی گسترده‌تر استفاده‌ی پنهان از ابزارهای AI، مقاله‌ی Shadow AI را ببینید و برای چارچوب کلی امنیت، صفحه‌ی امنیت هوش مصنوعی را.