هوش مصنوعی در حقوق و قراردادها: خطر اتکای کامل به تحلیل خودکار

تیم حقوقی یک شرکت، بررسی اولیه‌ی قراردادها را به یک ابزار هوش مصنوعی سپرده است: قرارداد بارگذاری می‌شود و در چند ثانیه خلاصه، فهرست بندهای کلیدی و «نکات ریسک‌دار» تحویل داده می‌شود. کار روزانه چند برابر سریع‌تر شده است. تا روزی که یک بند مهم — مثلاً محدودیت مسئولیت غیرمعمول یا تمدید خودکار با جریمه‌ی سنگین فسخ — در فهرست نیامد و کسی هم کل متن را نخواند.

این سناریو شاید فرضی باشد، اما سازوکارش کاملاً واقعی است. ابزارهای هوش مصنوعی آنچه از آن‌ها خواسته شده را پیدا می‌کنند، نه لزوماً آنچه باید دیده شود؛ و گاهی چیزی را گزارش می‌کنند که اصلاً وجود ندارد.

شواهد: وقتی هوش مصنوعی در کار حقوقی اشتباه کرد

رأی‌های قضایی که وجود نداشتند

در پرونده‌ی Mata علیه Avianca در نیویورک، وکلا در لایحه به شش رأی قضایی استناد کردند که ChatGPT ساخته بود؛ با نام طرفین، شماره‌ی پرونده و نقل‌قول‌های ساختگی. وقتی دادگاه خواست متن رأی‌ها ارائه شود، وکیل دوباره از همان ابزار پرسید و ابزار «تأیید» کرد که رأی‌ها واقعی‌اند. قاضی در ژوئن ۲۰۲۳ وکلا و مؤسسه را جریمه کرد.

این مشکل ادامه دارد. پایگاه داده‌ی Damien Charlotin صدها پرونده در کشورهای مختلف را ثبت کرده که در آن‌ها محتوای ساختگی هوش مصنوعی به دادگاه ارائه شده است. در ژوئن ۲۰۲۵، دادگاه عالی انگلستان در رأیی که به‌عنوان هشدار عمومی به حرفه‌ی وکالت صادر شد، تأکید کرد ابزارهای هوش مصنوعی عمومی قادر به انجام پژوهش حقوقی قابل‌اعتماد نیستند و وکلا مسئولیت حرفه‌ای راستی‌آزمایی هر ارجاعی را بر عهده دارند.

ابزارهای تخصصی حقوقی هم خطا دارند

ممکن است بگویید مشکل از ابزارهای عمومی است، نه ابزارهای تخصصی. پژوهش دانشگاه استنفورد ابزارهای پژوهش حقوقی مبتنی بر AI از ارائه‌دهندگان شناخته‌شده‌ی این بازار را آزمود و نشان داد این ابزارها هم — با وجود ادعاهای بازاریابی درباره‌ی «بدون توهم» بودن — در دست‌کم یک مورد از هر شش پرسش آزمون، پاسخ نادرست یا گمراه‌کننده دادند.

«وکیل رباتیک» و ادعاهای بزرگ

کمیسیون تجارت فدرال آمریکا در عملیات AI Comply (۲۰۲۴) علیه سرویسی اقدام کرد که خود را «نخستین وکیل رباتیک دنیا» معرفی می‌کرد، بدون اینکه کیفیت خدماتش را با وکلای واقعی آزموده باشد. پیام برای خریداران: ادعای فروشنده درباره‌ی دقت ابزار حقوقی را بدون شواهد نپذیرید.

چرا هوش مصنوعی در بررسی قرارداد بندی را جا می‌اندازد؟

1. پاسخ به سؤال پرسیده‌شده: اگر بپرسید «ریسک‌های پرداخت کدام‌اند؟»، ابزار ممکن است بند مسئولیت یا فسخ را اصلاً بررسی نکند.
2. ضعف در متن طولانی: در قراردادهای بلند با پیوست‌های متعدد، احتمال نادیده گرفتن بخش‌هایی از متن بیشتر است.
3. نشناختن «غیرعادی»: ابزار ممکن است بند را پیدا کند، اما نداند برای صنعت، کشور یا موقعیت شما غیرمعمول یا خطرناک است.
4. توهم: گاهی بندی را «خلاصه» می‌کند که در متن نیست یا مفادش را برعکس گزارش می‌کند.
5. قوانین محلی: بیشتر مدل‌ها روی داده‌های حقوقی آمریکا و اروپا آموزش دیده‌اند؛ برای قوانین ایران، دقتشان به‌مراتب کمتر است.

راهنمای حرفه‌ای: کانون وکلای آمریکا چه می‌گوید؟

کانون وکلای آمریکا (ABA) در نظریه‌ی رسمی شماره‌ی ۵۱۲ (ژوئیه ۲۰۲۴) اصول استفاده‌ی وکلا از ابزارهای هوش مصنوعی مولد را مشخص کرد؛ از جمله:

• صلاحیت: وکیل باید درک معقولی از توانایی‌ها و محدودیت‌های ابزار داشته باشد و خروجی را به‌طور مناسب بررسی کند.
• محرمانگی: پیش از وارد کردن اطلاعات موکل در ابزار، باید ریسک افشا را بسنجد و در موارد لازم رضایت آگاهانه‌ی موکل را بگیرد.
• شفافیت با موکل و دادگاه در موارد مقتضی.
• هزینه‌ی منصفانه: زمان صرفه‌جویی‌شده با AI باید در صورت‌حساب منعکس شود.

این اصول برای تیم‌های حقوقی داخلی شرکت‌ها هم کاملاً قابل‌استفاده‌اند.

روش درست استفاده از هوش مصنوعی در کار حقوقی

کارهایی که AI در آن‌ها واقعاً کمک می‌کند (با بازبینی):

• خلاصه‌ی اولیه‌ی قرارداد برای آشنایی سریع
• مقایسه‌ی دو نسخه‌ی قرارداد و یافتن تغییرات
• استخراج اطلاعات ساختاریافته (تاریخ‌ها، مبالغ، طرفین)
• پیش‌نویس اولیه‌ی نامه‌ها و بندهای استاندارد

کارهایی که نباید بدون متخصص انجام شود:

• تأیید نهایی قرارداد برای امضا
• استناد به قانون یا رأی دادگاه
• مشاوره‌ی حقوقی به مشتری یا مدیریت

قواعد عملی:

1. چک‌لیست ثابت برای هر نوع قرارداد داشته باشید (مسئولیت، فسخ، تمدید، حل اختلاف، محرمانگی، مالکیت فکری…) و از AI بخواهید همه‌ی موارد را گزارش دهد، نه «مهم‌ترین‌ها» را.
2. هر ارجاع قانونی را در منبع رسمی ببینید.
3. قراردادهای محرمانه را فقط در ابزار سازمانی تأییدشده وارد کنید (امنیت اطلاعات در چت جی پی تی).
4. مسئولیت امضا با انسان است: فردی که قرارداد را تأیید می‌کند، باید متن کامل را خوانده باشد.

جمع‌بندی

هوش مصنوعی ابزار سرعت در کار حقوقی است، نه جایگزین قضاوت حقوقی. تفاوت بین «AI کمک کرد» و «AI تصمیم گرفت»، در کار حقوقی می‌تواند تفاوت بین یک قرارداد خوب و یک دعوای پرهزینه باشد. برای درک ریشه‌ی این خطاها، مقاله‌ی توهم هوش مصنوعی و برای بحث مسئولیت، مسئولیت حقوقی هوش مصنوعی را بخوانید.