مسئولیت حقوقی هوش مصنوعی: وقتی AI اشتباه می‌کند، چه کسی پاسخ‌گوست؟

وقتی یک کارمند اشتباه می‌کند، سازمان می‌داند با چه کسی صحبت کند. اما وقتی یک چت‌بات به مشتری اطلاعات غلط می‌دهد، یک مدل اعتبارسنجی درخواست وام را رد می‌کند یا یک ابزار تحلیل، عددی ساختگی در گزارش مدیره می‌گذارد، این سؤال پیچیده می‌شود: مسئول کیست؟ سازنده‌ی مدل، شرکتی که آن را به کار گرفته یا کاربری که به خروجی اعتماد کرد؟

پاسخ کوتاه که از پرونده‌های واقعی به دست می‌آید این است: هوش مصنوعی مسئولیت نمی‌پذیرد؛ انسان‌ها و سازمان‌ها می‌پذیرند. و در بیشتر موارد، نزدیک‌ترین سازمان به آسیب‌دیده — یعنی همان شرکتی که ابزار را جلوی مشتری گذاشته — اولین کسی است که پاسخ‌گو شناخته می‌شود.

پرونده‌ی ایرکانادا: «چت‌بات یک نهاد مستقل نیست»

در ۲۰۲۲، مسافری به نام Jake Moffatt پس از فوت مادربزرگش، از چت‌بات وب‌سایت ایرکانادا درباره‌ی تخفیف سفر در شرایط سوگ پرسید. چت‌بات گفت می‌تواند بلیت را با قیمت عادی بخرد و ظرف ۹۰ روز درخواست استرداد بخشی از مبلغ را بدهد؛ اما سیاست واقعی شرکت چنین امکانی را نمی‌داد. ایرکانادا درخواست او را رد کرد و در دادرسی حتی استدلال کرد که چت‌بات «یک نهاد حقوقی جداگانه است که مسئول اقدامات خودش است».

دادگاه حل اختلاف مدنی بریتیش‌کلمبیا در رأی فوریه ۲۰۲۴ این استدلال را «قابل‌توجه» (به معنای عجیب) خواند و رد کرد: چت‌بات بخشی از وب‌سایت ایرکاناداست و شرکت مسئول همه‌ی اطلاعاتی است که در وب‌سایتش ارائه می‌شود، چه از یک صفحه‌ی ثابت باشد چه از یک چت‌بات. مشتری هم دلیلی نداشت که بداند کدام بخش سایت درست است. شرکت به پرداخت خسارت محکوم شد. تحلیل کامل را در مطالعه‌ی موردی پرونده‌ی چت‌بات ایرکانادا آورده‌ایم.

پرونده‌ی وکلای نیویورک: کاربر حرفه‌ای هم مسئول است

در پرونده‌ی Mata علیه Avianca، وکلایی که به رأی‌های ساختگیِ ChatGPT استناد کرده بودند، جریمه شدند. قاضی تصریح کرد استفاده از فناوری ممنوع نیست، اما قواعد حرفه‌ای، وکیل را مسئول صحت هر چیزی می‌داند که به دادگاه ارائه می‌کند. یعنی وقتی متخصص از AI کمک می‌گیرد، مسئولیت حرفه‌ای‌اش به ابزار منتقل نمی‌شود.

خودروی خودران اوبر: مسئولیت در زنجیره‌ی انسان و ماشین

در مارس ۲۰۱۸، یک خودروی آزمایشی خودران اوبر در آریزونا با یک عابر پیاده برخورد کرد و او جان باخت. گزارش هیئت ملی ایمنی حمل‌ونقل آمریکا (NTSB) علت را ترکیبی از نقص طراحی سیستم، غفلت راننده‌ی ناظر که حواسش به گوشی بود و ضعف فرهنگ ایمنی و نظارت در سازمان دانست. این پرونده نشان می‌دهد در سیستم‌های ترکیبی انسان و ماشین، مسئولیت معمولاً میان چند حلقه تقسیم می‌شود و ضعف حاکمیتی سازمان یکی از آن حلقه‌هاست.

قانون چه می‌گوید؟ روند در اروپا

دستورالعمل جدید مسئولیت محصول (۲۰۲۴)

اتحادیه اروپا در ۲۰۲۴ دستورالعمل جدید مسئولیت ناشی از محصولات معیوب را تصویب کرد که کشورهای عضو باید تا دسامبر ۲۰۲۶ آن را در قوانین ملی خود اجرا کنند. مهم‌ترین تغییر برای بحث ما: نرم‌افزار، از جمله سیستم‌های هوش مصنوعی، صراحتاً «محصول» محسوب می‌شود. یعنی اگر نرم‌افزار معیوب به کسی آسیب بزند، تولیدکننده می‌تواند بدون نیاز به اثبات تقصیر، مسئول جبران خسارت باشد. این دستورالعمل حتی به‌روزرسانی‌ها و ویژگی‌هایی را که پس از عرضه با یادگیری تغییر می‌کنند در نظر گرفته است.

تکالیف به‌کارگیرندگان در قانون هوش مصنوعی

قانون هوش مصنوعی اتحادیه اروپا هم فقط سازندگان را مخاطب قرار نمی‌دهد. طبق ماده‌ی ۲۶، سازمانی که یک سیستم پرریسک را به کار می‌گیرد باید آن را طبق دستورالعمل استفاده کند، نظارت انسانی را به افراد دارای صلاحیت و اختیار بسپارد، داده‌ی ورودی مرتبط را کنترل کند و عملکرد سیستم را پایش کند.

قراردادهای ابزارهای هوش مصنوعی چه می‌گویند؟

اگر شرایط استفاده‌ی بیشتر ابزارهای هوش مصنوعی را بخوانید، معمولاً این الگو را می‌بینید:

• سرویس «همان‌طور که هست» (As Is) ارائه می‌شود و درستی خروجی تضمین نمی‌شود.
• مسئولیت ارائه‌دهنده محدود به سقف مشخصی (اغلب مبلغ پرداختی شما در دوره‌ای کوتاه) است.
• کاربر مسئول ارزیابی خروجی و نحوه‌ی استفاده از آن است.

یعنی از نظر قراردادی هم، بار اصلی مسئولیت روی شما می‌ماند. برخی ارائه‌دهندگان برای حساب‌های سازمانی تعهدات محدودی (مثلاً در برابر ادعای نقض کپی‌رایت) می‌دهند؛ این تعهدات را پیش از خرید دقیق بخوانید.

چطور مسئولیت را در سازمان مدیریت کنیم؟

هدف، «فرار از مسئولیت» نیست؛ مدیریت آگاهانه‌ی آن است. استانداردهایی مثل ISO/IEC 42001 و NIST AI RMF پاسخ‌گویی را یکی از ارکان اصلی می‌دانند و این اقدامات را پیشنهاد می‌کنند:

1. برای هر سیستم AI یک مالک انسانی مشخص کنید که پاسخ‌گوی عملکرد آن باشد.
2. نقاط تصمیم را مشخص کنید: کدام خروجی‌ها «پیشنهاد» هستند و کدام «تصمیم»؟ تصمیم‌های حساس باید تأیید انسانی داشته باشند.
3. اختیار سیستم‌های مشتری‌محور را محدود کنید: چت‌بات نباید بتواند تعهدی بدهد که کارمند عادی بدون تأیید نمی‌تواند.
4. قراردادها را بازبینی کنید: با تأمین‌کننده (مسئولیت خطای مدل، امنیت داده) و با مشتری (شفافیت درباره‌ی استفاده از AI).
5. مستند کنید: ارزیابی ریسک، آزمون‌ها و تصمیم‌ها را ثبت کنید. در صورت بروز اختلاف، نشان دادن «مراقبت متعارف» اهمیت زیادی دارد.
6. بیمه را بررسی کنید: ببینید بیمه‌نامه‌های مسئولیت حرفه‌ای و سایبری فعلی، خسارت‌های ناشی از AI را پوشش می‌دهند یا استثنا کرده‌اند.

جمع‌بندی

در هر سه پرونده‌ی بالا، یک الگوی مشترک دیده می‌شود: تلاش برای انداختن تقصیر به گردن «سیستم» نتیجه نداد. دادگاه‌ها و ناظران به سازمانی نگاه می‌کنند که ابزار را انتخاب کرده، جلوی مشتری گذاشته و بر آن نظارت کرده یا نکرده است. برای طراحی ساختار پاسخ‌گویی، راهنمای جامع حاکمیت هوش مصنوعی را ببینید.

این مقاله جنبه‌ی آموزشی دارد و مشاوره‌ی حقوقی محسوب نمی‌شود.