چه اتفاقی افتاد؟
در دسامبر ۲۰۲۴، گارانته (نهاد حفاظت از دادهی ایتالیا) پس از تحقیقاتی که از ۲۰۲۳ آغاز شده بود، اوپنایآی را ۱۵ میلیون یورو جریمه کرد. یافتههای اصلی این بود که دادهی شخصی کاربران برای آموزش چتجیپیتی بدون مبنای قانونی کافی و بدون شفافیت لازم پردازش شده، رخداد امنیتی مارس ۲۰۲۳ به این نهاد اطلاع داده نشده، و سازوکار مناسبی برای جلوگیری از دسترسی کودکان زیر ۱۳ سال وجود نداشته است.
علاوه بر جریمه، اوپنایآی موظف شد یک پویش ششماهه در رسانههای ایتالیا دربارهی نحوهی جمعآوری داده اجرا کند. اوپنایآی حکم را نامتناسب خواند و اعلام کرد اعتراض میکند.
چرا مهم است؟
قوانین حفاظت از داده (مثل مقررات عمومی حفاظت از دادهی اروپا) مستقیماً بر سیستمهای هوش مصنوعی اعمال میشوند. برای سازمانی که از ابزارهای هوش مصنوعی استفاده میکند هم این پرسش مطرح است: دادهی مشتریان و کارکنان ما با چه مبنای قانونی وارد این ابزارها میشود؟
درسها برای سازمان شما
- پیش از استفاده از یک ابزار هوش مصنوعی بدانید دادهها کجا ذخیره و برای چه استفاده میشوند.
- برای پردازش دادهی شخصی با هوش مصنوعی، مبنای قانونی و اطلاعرسانی شفاف داشته باشید.
- رخدادهای امنیتی مربوط به هوش مصنوعی را مانند هر رخداد امنیتی دیگری ثبت و گزارش کنید.
کدام بخش از چارچوب مدیریت ریسک میتوانست جلوی آن را بگیرد؟
کارکردهای چارچوب مدیریت ریسک هوش مصنوعی مؤسسهی ملی استاندارد آمریکا (NIST) که بیشترین ارتباط را با این رخداد دارند.
- حکمرانی — نقشها، سیاست و پاسخگویی
- شناخت — شناخت کاربرد و ریسکها