نظارت انسانی چه زمانی به تأیید صوری تبدیل می‌شود؟

سامانه یک پیشنهاد می‌دهد و کارشناس دکمه تأیید را می‌زند. در نمودار فرایند، انسان حضور دارد؛ اما آیا می‌تواند نتیجه را واقعاً بررسی کند؟ اگر روزانه صدها پیشنهاد با مهلت کوتاه دریافت کند، منبع را نبیند و بابت هر مخالفت توضیح طولانی بخواهد، حضور او ممکن است بیشتر نقش انتقال مسئولیت داشته باشد تا کنترل خطا.

این مسئله با حذف انسان از فرایند یکسان نیست. موضوع، کیفیت نقش انسانی است: چه چیزی را می‌بیند، چه کاری می‌تواند انجام دهد و سازمان مخالفت مستدل او را چگونه می‌پذیرد؟

اصل نظارت، طراحی اجرا را تعیین نمی‌کند

توصیه‌نامه اخلاق هوش مصنوعی UNESCO در سال ۲۰۲۱ بر باقی‌ماندن مسئولیت نهایی نزد انسان‌ها و نهادهای انسانی تأکید می‌کند. نظارت در این سند به حضور فردی در انتهای یک زنجیره محدود نیست و ابعاد عمومی و نهادی هم دارد. این یک مبنای اخلاقی و سیاستی است؛ از آن نمی‌توان دستور اجرایی یکسان برای همه کاربردها استخراج کرد.

در تحلیل خرد، سازمان باید این اصل را به ظرفیت واقعی تبدیل کند. نوشتن عبارت «با تأیید کارشناس» بدون تعریف شواهد، زمان و اختیار، اثربخشی نظارت را ثابت نمی‌کند.

سه شرط یک بررسی معنادار

شرط نخست، دسترسی به اطلاعات لازم است. ناظر باید داده ورودی، منبع پاسخ، محدودیت‌ها و دلیل ارجاع پرونده را تا حد متناسب با وظیفه‌اش ببیند. نمایش صرف یک امتیاز یا پاسخ نهایی، همیشه برای تشخیص خطا کافی نیست.

شرط دوم، زمان و مهارت است. سازمان باید بررسی کند چند پرونده با چه پیچیدگی در هر شیفت قابل رسیدگی است. آموزش نیز باید متناسب با کاربرد باشد؛ آشنایی عمومی با هوش مصنوعی، جای شناخت خطاهای همان فرایند را نمی‌گیرد.

شرط سوم، اختیار مخالفت و ارجاع است. کارشناس باید بتواند خروجی را اصلاح، رد یا برای بررسی بیشتر متوقف کند. اگر هر ردکردن به افت ارزیابی عملکرد او منجر شود، ساختار انگیزه‌ها نظارت را تضعیف می‌کند.

یک سناریوی فرضی

فرض کنیم سازمانی از مدل برای رتبه‌بندی درخواست‌های پشتیبانی استفاده می‌کند. درخواست یک مشتری به دلیل واژه‌بندی نامعمول، کم‌اهمیت تشخیص داده می‌شود. کارشناس فقط رتبه را می‌بیند و متن کامل در صفحه دیگری است. در این طراحی، دستور «خروجی را بررسی کنید» هزینه کشف خطا را به فرد منتقل کرده است.

یک اصلاح ممکن، نمایش متن و عوامل مرتبط در همان صفحه و فراهم‌کردن امکان تغییر اولویت با ثبت دلیل کوتاه است. اصلاح دیگر، نمونه‌برداری از پرونده‌هایی است که سامانه کم‌اهمیت می‌داند؛ چون خطا فقط در پرونده‌های علامت‌گذاری‌شده رخ نمی‌دهد. این‌ها پیشنهاد طراحی‌اند و باید در همان محیط آزموده شوند.

نرخ مخالفت، به‌تنهایی شاخص کیفیت نیست

مخالفت بسیار کم می‌تواند نشانه کیفیت خوب سامانه یا بررسی ضعیف باشد. مخالفت زیاد هم ممکن است از ضعف مدل یا تعریف نامناسب وظیفه ناشی شود. برای تفسیر این عدد باید نمونه پرونده‌ها بررسی شوند و کیفیت تصمیم نهایی سنجیده شود.

پیشنهاد تحریریه، ثبت علت اصلاح، زمان بررسی و نتیجه رسیدگی به خطاهای مهم است. این داده‌ها باید برای اصلاح فرایند به کار روند؛ استفاده صرفاً تنبیهی ممکن است کارکنان را از ثبت خطا منصرف کند.

مسئولیت سازمان نباید پشت نام کارشناس پنهان شود

حتی اگر کارشناس یک خروجی را تأیید کرده باشد، باید پرسید چه ابزار و اطلاعاتی برای بررسی در اختیارش بوده است. طراحی نامناسب حجم کار یا فقدان امکان توقف، موضوع مسئولیت مدیریتی است. این تحلیل سازمانی جای تعیین مسئولیت حقوقی در یک پرونده مشخص را نمی‌گیرد.

پیش از استقرار، یک خروجی عمداً نادرست را در محیط آزمون بررسی کنید و ببینید آیا ناظر آن را تشخیص می‌دهد و می‌تواند اصلاح کند. اگر چنین آزمونی فقط با کمک تیم سازنده ممکن است، سازوکار نظارت هنوز برای بهره‌برداری روزمره آماده نیست.

درباره این مطلب

این مطلب با کمک ابزارهای هوش مصنوعی تهیه شده و تحلیل‌ها و پیشنهادهای آن متعلق به تحریریه خرد است. منابع اصلی در پیوندهای زیر آمده‌اند؛ مثال‌های فرضی، گزارش رویداد واقعی نیستند.

منابع اصلی

UNESCO؛ توصیه‌نامه اخلاق هوش مصنوعی، بخش نظارت و مسئولیت انسانی

NIST؛ راهنمای اجرایی چارچوب مدیریت ریسک هوش مصنوعی