خرد
حکمرانیِ هوش مصنوعی

وقتی عامل هوش مصنوعی خطا می‌کند، چه کسی پاسخ‌گوست؟

مسئولیت خطای عامل هوش مصنوعی با یک پاسخ همیشگی تعیین نمی‌شود. بررسی انتساب اقدام، جبران خسارت و تکالیف قانونی باید نقش سازمان و تأمین‌کنندگان را در یک قلمرو حقوقی مشخص بسنجد.

نواری شیشه‌ای سبزآبی با اتصال‌های برنجی از سه پایه سنگی می‌گذرد و به گوی تیره‌ای روی سکوی گرد می‌رسد.
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد؛ نمایش پرونده واقعی یا تعیین سهم مسئولیت حقوقی نیست.

فرض کنیم یک عامل هوش مصنوعی به سامانه سفارش متصل است و به‌اشتباه برای مشتری تعهد مالی ثبت می‌کند. سازمان می‌گوید مدل بیرونی خطا کرده است؛ شرکت پیاده‌ساز به داده یا تنظیمات مشتری اشاره می‌کند. مشتری با نتیجه یک خدمت مواجه شده، اما پشت آن چند بازیگر حضور دارند. پرسش این است که این زنجیره را چگونه باید بررسی کرد، نه اینکه از روی عنوان «عامل خودمختار» یک مقصر همیشگی تعیین کنیم.

پاسخ حقوقی به کشور، نوع رابطه، ماهیت خسارت و نقش هر طرف وابسته است. این مقاله سه متن مشخص را بررسی می‌کند: قانون نمونه آنسیترال درباره قراردادسازی خودکار، مقررات حفاظت از داده اتحادیه اروپا و دستورالعمل جدید مسئولیت محصول آن اتحادیه. این اسناد جایگاه و قلمرو یکسان ندارند؛ از آن‌ها نمی‌توان حکم مسئولیت در پرونده‌ای در ایران را مستقیماً استخراج کرد.

سه پرسش که نباید با هم اشتباه شوند

نخست، آیا اقدام سامانه به شخص یا سازمانی منتسب است و چه اثری بر رابطه قراردادی دارد؟ دوم، اگر خسارتی رخ داده، شرایط مسئولیت و جبران آن چیست؟ سوم، آیا تکلیف قانونی مربوط به داده، ایمنی یا تصمیم‌گیری رعایت شده است؟ پاسخ مثبت یا منفی به یکی، به‌تنهایی پاسخ بقیه را تعیین نمی‌کند.

همچنین «پاسخ‌گویی سازمانی» با «مسئولیت حقوقی احرازشده» تفاوت دارد. سازمان می‌تواند برای دریافت شکایت، توقف اقدام و پیگیری حادثه مسئول مشخص تعیین کند، پیش از آنکه مرجع صالح درباره تقصیر یا جبران خسارت حکم بدهد. معطل‌کردن اصلاح خدمت تا پایان اختلاف فروشنده و خریدار، انتخاب مدیریتی جداگانه‌ای است.

استقلال فنی نیز درجه دارد. عاملی که فقط پیش‌نویس می‌سازد با عاملی که اجازه ارسال یا تغییر رکورد دارد یکسان نیست. ثبت دقیق مرز اختیار عامل برای فهم رخداد اهمیت دارد، اما داشتن یک محدودیت داخلی به‌تنهایی روشن نمی‌کند اقدام در برابر شخص ثالث چه اثر حقوقی داشته است.

آنسیترال: انتساب اقدام، پایان تحلیل مسئولیت نیست

ماده ۷ قانون نمونه آنسیترال درباره قراردادسازی خودکار، مصوب ۲۰۲۴، در رابطه میان طرفین قرارداد، ابتدا به روال انتساب مورد توافق آن‌ها رجوع می‌کند؛ در نبود آن، اقدام را به شخصی منتسب می‌کند که سامانه را برای آن منظور به کار گرفته است. غیرمنتظره‌بودن نتیجه، به‌تنهایی انتساب را منتفی نمی‌کند.

همان ماده تصریح می‌کند قواعد تعیین آثار حقوقیِ انتساب همچنان برقرارند. بنابراین انتساب اقدام با اثبات خودکار همه شرایط مسئولیت یکی نیست. این سند، الگوی قانون‌گذاری برای کشورهاست؛ صرف تصویب آن در آنسیترال، آن را به قانون لازم‌الاجرای همه کشورها تبدیل نمی‌کند.

درس تحلیلی برای مدیر این است که پیش از اتصال ابزار، معنای اقدام را روشن کند: سامانه پیشنهاد می‌دهد، پیام می‌فرستد یا تعهد ثبت می‌کند؟ اصطلاح مبهم «دستیار مشتری» این تفاوت را پنهان می‌کند. توافق با فروشنده درباره کارکرد، اختیارات و شواهد اجرا باید با نحوه واقعی ارائه خدمت هم‌خوان باشد.

داده شخصی: نقش واقعی طرفین اهمیت دارد

در قلمرو شمول مقررات عمومی حفاظت از داده اتحادیه اروپا، GDPR، ماده ۸۲ میان نقش‌ها تفاوت می‌گذارد. مسئولیت پردازشگر برای خسارت، به نقض تکالیف خاص او یا اقدام خارج از دستور قانونی کنترل‌کننده یا برخلاف آن مرتبط است. مسئولیت برای کل خسارت میان چند طرف نیز به شرایط مقرر در همان ماده وابسته است؛ صرف حضور در زنجیره، کافی نیست.

ماده ۲۲ همین مقررات درباره برخی تصمیم‌های صرفاً خودکار با اثر حقوقی یا اثر مهم مشابه، قاعده و استثناهای مشخص دارد. این ماده را نباید به ممنوعیت همه تصمیم‌های الگوریتمی یا قاعده جبران خسارت در همه کشورها تبدیل کرد.

برداشت اجرایی خرد این است که نام «فروشنده» یا «مشتری» برای ترسیم جریان داده کافی نیست. باید معلوم باشد چه کسی هدف پردازش را تعیین می‌کند، چه کسی به داده دسترسی دارد و چه کسی حدود استفاده را تغییر می‌دهد. در یک بررسی رخداد، متن قرارداد و رفتار واقعی هر دو اهمیت دارند؛ تفاوت میان آن‌ها باید قابل مشاهده باشد.

مسئولیت محصول اروپا: قاعده مشروط، نه مسئولیت خودکار همه

دستورالعمل ۲۰۲۴/۲۸۵۳ اتحادیه اروپا درباره محصولات معیوب، نرم‌افزار را در تعریف محصول می‌گنجاند. مطابق مواد ۲ و ۲۲، مهلت اجرای ملی ۹ دسامبر ۲۰۲۶ است و قلمرو زمانی جدید، محصولات عرضه‌شده یا به‌کارگرفته‌شده پس از آن تاریخ را در بر می‌گیرد. در زمان انتشار این مطلب، آن موعد هنوز نرسیده است؛ نباید قواعد جدید را جاری بر همه محصولات قبلی فرض کرد.

ماده ۱۰ همچنان اثبات عیب، خسارت و رابطه علّی را از خواهان می‌خواهد، اما برای شرایط معین، فرض‌های قابل رد پیش‌بینی می‌کند؛ از جمله ارائه‌نکردن شواهد لازم یا دشواری فنی بیش از اندازه همراه با احراز شروط مقرر. پس «هوش مصنوعی پیچیده است» معادل وارونگی همیشگی بار اثبات نیست.

ماده ۱۲ نیز مسئولیت تضامنی را برای حالتی مقرر می‌کند که چند فعال اقتصادی، طبق همین دستورالعمل برای یک خسارت مسئول باشند. این قاعده، همه اعضای زنجیره را صرفاً به دلیل حضورشان مسئول نمی‌کند و همه انواع زیان کسب‌وکار را هم لزوماً پوشش نمی‌دهد.

زنجیره فنی را چگونه برای رسیدگی قابل فهم کنیم؟

دشواری کشف علت واقعی است، اما «تقریباً ناممکن» خواندن آن پیش از بررسی، هم اغراق است و هم انگیزه مستندسازی را کاهش می‌دهد. ممکن است پیام نادرست ساخته شده باشد، مجوز ارسال بیش از نیاز بوده باشد و کنترل مقصد نیز اقدام را پذیرفته باشد. این‌ها فرضیه‌های فنی متفاوت‌اند؛ تشخیص سهم حقوقی هرکدام مرحله دیگری است.

پیشنهاد تحریریه، تهیه نقشه مسئولیت برای هر کاربرد است: مالک فرایند، مسئول پیکربندی و دسترسی، تأمین‌کنندگان مؤثر، فرد دارای اختیار توقف و واحد رسیدگی به اعتراض مشخص شوند. این نقشه، حکم قضایی یا تقسیم قطعی خسارت نیست؛ ابزار جلوگیری از سرگردانی هنگام حادثه است.

برای یک اقدام حساس، شناسه درخواست، نسخه تنظیمات مؤثر، هویت مجاز، مجوز اعطاشده، تأیید احتمالی و نتیجه ثبت‌شده در مقصد را تا حد لازم به هم وصل کنید. همان‌طور که در بحث کنترل اجرای اتصال‌های MCP توضیح داده شد، ثبت فراخوانی ابزار معادل ثبت تمام استدلال درونی مدل نیست. نگهداری بی‌ضابطه داده حساس نیز راه مناسبی برای ساختن شواهد نیست؛ دسترسی و دوره نگهداری باید متناسب باشند.

سلب مسئولیت و تأیید انسانی چه چیزی را حل نمی‌کنند؟

از جمله «سامانه ممکن است خطا کند» نمی‌توان به‌تنهایی نتیجه گرفت همه ریسک به کاربر منتقل شده است. به همان اندازه، نمی‌توان اعلام کرد هر شرط محدودکننده مسئولیت در هر قراردادی بی‌اعتبار است. ارزیابی آن به قانون حاکم، نوع رابطه و حقوق قابل اعمال وابسته است؛ متن شرط باید در همان زمینه بررسی شود.

ثبت کلیک کارشناس نیز فقط نشان می‌دهد تأییدی ثبت شده است. برای ارزیابی عملکرد نظارت باید دید فرد چه اطلاعات، زمان، مهارت و اختیار ردکردنی داشته است. نظارت انسانی مؤثر مسئله طراحی کار است؛ افزودن یک نام به انتهای زنجیره، سهم سایر تصمیم‌های مدیریتی و فنی را روشن نمی‌کند.

پیش از افزایش اختیار عامل، یک رخداد فرضی را از اعتراض کاربر تا مهار، حفظ شواهد، بررسی علت و اصلاح دنبال کنید. اگر تیم‌ها نتوانند بگویند چه کسی خدمت را متوقف می‌کند و چه کسی به فرد متأثر پاسخ می‌دهد، سازمان هنوز برای رسیدگی آماده نیست؛ حتی اگر قرارداد چند صفحه درباره مسئولیت داشته باشد.

پرسش مناسب برای مدیر این نیست که «آیا می‌توان همه مسئولیت را به فروشنده منتقل کرد؟» پرسش این است که اختیار، کنترل، مدرک و مسیر جبران چگونه کنار هم قرار می‌گیرند. حقوق، پاسخ پرونده مشخص را با قواعد خود می‌سنجد؛ حکمرانی سازمان باید پیش از وقوع اختلاف، امکان رسیدگی را فراهم کرده باشد.

برچسب‌ها

لینک کوتاه:kherad.net/s/gihs6y

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.