این استاندارد چیست؟
NIST AI RMF نسخه ۱٫۰ در ژانویه ۲۰۲۳ منتشر شد. این چارچوب الزامآور نیست و گواهی ندارد؛ بلکه یک زبان و روش عملی برای شناسایی، ارزیابی و کاهش ریسکهای AI ارائه میکند. NIST در کنار آن یک «Playbook» با اقدامات پیشنهادی و یک «پروفایل هوش مصنوعی مولد» (NIST AI 600-1) منتشر کرده است.
چرا اهمیت دارد؟
این چارچوب بهویژه برای تیمهای ریسک و فنی کاربردی است، چون ریسک را به اقدامهای مشخص تبدیل میکند. ترکیب آن با ISO/IEC 42001 رایج است: ISO ساختار مدیریتی را میدهد و NIST AI RMF جزئیات عملی مدیریت ریسک را.
چه کسانی به آن نیاز دارند؟
- مدیران ریسک و تطبیق
- تیمهای داده، محصول و مهندسی
- سازمانهایی که با شرکای بینالمللی کار میکنند
- سازمانهایی که از AI مولد بهطور گسترده استفاده میکنند
مفاهیم کلیدی
Govern (حاکمیت)
فرهنگ، سیاستها، نقشها و پاسخگویی برای مدیریت ریسک AI در کل سازمان.
Map (شناخت)
شناخت بافت، هدف و ذینفعان هر سیستم AI و شناسایی ریسکهای آن.
Measure (سنجش)
تحلیل، ارزیابی و پایش ریسکها و ویژگیهای اعتمادپذیری با روشهای کمی و کیفی.
Manage (مدیریت)
اولویتبندی و برخورد با ریسکها، تخصیص منابع و پاسخ به رخدادها.
ویژگیهای AI قابلاعتماد
معتبر و قابلاتکا، ایمن، امن و تابآور، پاسخگو و شفاف، توضیحپذیر، حافظ حریم خصوصی، و منصفانه با کنترل سوگیری مضر.
الزامات و حوزههای اصلی
- این چارچوب «الزام» به معنای استانداردهای گواهیپذیر ندارد؛ هر کارکرد شامل دستهها و زیرشاخههایی از نتایج مطلوب است.
- سازمانها «پروفایل» فعلی و هدف خود را تعریف و فاصله میان آنها را مدیریت میکنند.
مسیر پیادهسازی
- ۰۱تعریف پروفایل فعلی ریسک AI سازمان
- ۰۲استقرار کارکرد Govern: نقشها، سیاستها و فرهنگ ریسک
- ۰۳برای هر مورد استفاده: شناخت بافت و ریسکها (Map)
- ۰۴انتخاب معیارها و روشهای سنجش (Measure)
- ۰۵برنامه برخورد با ریسک، پایش و پاسخ به رخداد (Manage)
- ۰۶بازنگری دورهای و بهروزرسانی پروفایل هدف
ارزیابی
ارزیابی آمادگی AI STANDARD ابعادی مانند حاکمیت، مدیریت ریسک و نظارت انسانی را میسنجد که با کارکردهای NIST AI RMF همراستاست؛ ارزیابی کامل، پروفایل فعلی و هدف سازمان را تعریف میکند.
آموزش
دوره «NIST AI RMF در عمل» کارکردها را با تمرین روی موارد استفاده واقعی آموزش میدهد.
منابع
محتوای این صفحه توضیح و تفسیر AI STANDARD است و متن رسمی استاندارد را بازنشر نمیکند. برای متن کامل به ناشر رسمی مراجعه کنید.