خرد
کیفیت تصمیم‌گیری

«نمی‌دانستم مدل چگونه کار می‌کند»؛ حدود مسئولیت بررسی مدیران

مدیر لازم نیست سازنده مدل باشد؛ اما باید بداند پیش از تصویب کاربرد آن چه شواهدی بخواهد. مسئولیت بررسی را باید با اختیار، پیامد تصمیم و امکان شناخت خطر سنجید.

محفظه شیشه‌ای سبزآبی با برگه سفید، ذره‌بین و اهرم جداگانه مقابل دروازه برنجی؛ تصویر مفهومی بررسی پیش از تأیید.
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد؛ نمایش رویداد یا سامانه واقعی نیست.

مدیری سامانه‌ای را برای اولویت‌بندی متقاضیان تصویب کرده است. چند ماه بعد، شکایت‌ها از ردهای ناموجه بالا می‌گیرد. پاسخ او این است: «من متخصص مدل نیستم و نمی‌دانستم چنین خطایی رخ می‌دهد.» این پاسخ ممکن است واقعیتی درباره دانش او باشد؛ اما هنوز روشن نمی‌کند که پیش از تصویب، چه بررسی‌ای از او انتظار می‌رفت.

پرسش این یادداشت درباره مسئولیت حرفه‌ای و اخلاقیِ بررسی پیش از تصمیم است. تعیین مسئولیت حقوقی هر واقعه به قانون، قرارداد، نقش افراد و شواهد پرونده وابسته است؛ صرف استفاده از هوش مصنوعی یا وقوع زیان، پاسخ آن را معلوم نمی‌کند.

ندانستن چه وقت قابل دفاع است؟

در بحث فلسفیِ شرط معرفتی مسئولیت اخلاقی، درباره میزان آگاهی لازم برای مسئول‌دانستن فرد و نسبت آن با ناآگاهیِ قابل پیشگیری اختلاف نظر وجود دارد. بنابراین نمی‌توان از فلسفه یک حکم ساده استخراج کرد که هر ندانستنی عذر است یا هیچ ندانستنی عذر نیست.

برای مدیریت سازمانی، پیشنهاد عملی خرد این است: بررسی کنیم شخص با توجه به اختیار، تخصص، منابع و هشدارهای در دسترس، چه چیزی را می‌توانست و معقول بود بداند. مدیری که گزارش آزمون مرتبط را درخواست کرده، محدودیت‌ها را ثبت کرده و کاربرد را به حوزه آزموده‌شده محدود کرده است، با مدیری که هشدار روشن را برای تسریع قرارداد کنار گذاشته، در موقعیت یکسانی نیست.

این تمایز باید پیش از معلوم‌شدن نتیجه جدی گرفته شود. تصمیم سنجیده هم می‌تواند نتیجه نامطلوب داشته باشد؛ تصمیم سهل‌انگارانه هم ممکن است اتفاقاً بی‌حادثه بماند. اگر فقط نتیجه را ببینیم، کیفیت فرایند را با خوش‌شانسی یا بدشانسی اشتباه می‌گیریم.

مدیر باید چه چیزی را بررسی کند؟

انتظار معقول از مدیر لزوماً خواندن کد یا بازسازی آموزش مدل نیست. او باید بتواند توضیح دهد سامانه کدام تصمیم را پشتیبانی می‌کند، خطای مهم آن چیست، چه کسی هزینه خطا را می‌پردازد و با چه شاهدی اجازه استفاده داده شده است.

در مثال فرضیِ اولویت‌بندی متقاضیان، دقت کلی روی داده آزمایشی برای تصویب کافی نیست. پرسش‌های تعیین‌کننده این‌هاست: نمونه آزمون به متقاضیان واقعی شبیه بوده است؟ رد اشتباه چگونه شناسایی می‌شود؟ آیا فرد می‌تواند مدرک تازه ارائه کند؟ چه کسی اختیار تعلیق تصمیم خودکار را دارد؟

این پرسش‌ها باید به شواهد ارزیابی پایلوت وصل شوند. دریافت یک عدد مطلوب بدون شناخت جامعه آزمون و تعریف خطا، بررسی مؤثر محسوب نمی‌شود.

چه علامتی بررسی بیشتر را ضروری می‌کند؟

شدت بررسی باید با پیامد تصمیم متناسب باشد. خلاصه‌سازی یک متن داخلی با رد دسترسی فرد به خدمت، سطح یکسانی از اطمینان نمی‌خواهد. نبود امکان جبران، اثر بر گروه آسیب‌پذیر یا تغییر کاربرد مدل، دلیل موجهی برای درخواست شاهد بیشتر است.

هشدارهای عملی می‌توانند ساده باشند: فروشنده نمونه خطا ارائه نمی‌کند؛ آزمون روی زبان یا جامعه دیگری انجام شده؛ کارکنان گزارش می‌دهند بازبینی از انجام دستی کار طولانی‌تر است؛ یا سامانه پس از به‌روزرسانی رفتاری متفاوت دارد. در این شرایط، تأیید قبلی نباید خودکار به نسخه یا کاربرد تازه منتقل شود.

پاسخ نیز فقط پذیرش یا لغو کامل نیست. می‌توان دامنه استفاده را کوچک کرد، تصمیم نهایی را به بررسی مستقل سپرد یا تا تکمیل شاهد، خروجی را صرفاً پیشنهادی نگه داشت. طراحی نظارت انسانی معنادار باید برای این اقدامات، زمان و اختیار واقعی فراهم کند.

تقسیم کار، مسئولیت را قابل اجرا می‌کند

چارچوب داوطلبانه مدیریت ریسک هوش مصنوعی NIST، بخش GOVERN 2 بر روشن‌بودن نقش‌ها، آموزش متناسب و مسئولیت رهبری در تصمیم‌های مربوط به ریسک تأکید می‌کند. این چارچوب قانون عمومی همه سازمان‌ها نیست؛ می‌توان از آن برای طراحی تقسیم کار استفاده کرد.

پیشنهاد ما یک ثبت کوتاه پیش از تصویب است: تصمیم‌گیر چه پرسشی مطرح کرد، پاسخ را از چه کسی گرفت، کدام محدودیت باقی ماند و چه شرطی استفاده را متوقف می‌کند. کارشناس فنی مسئول شواهد آزمون است، صاحب فرایند پیامد اجرایی را توضیح می‌دهد و مقام تصویب‌کننده دامنه اختیار و ریسک پذیرفته‌شده را مشخص می‌کند.

این ثبت زمانی ارزش دارد که درخواست مدرک بتواند تصمیم را تغییر دهد. اگر سازمان برای بررسی بودجه نمی‌گذارد، گزارش نامطلوب را تنبیه می‌کند یا تأیید انسانی را به امضای اجباری تبدیل می‌کند، مسئله از دانش یک مدیر فراتر رفته و به طراحی اختیار در سازمان رسیده است.

برچسب‌ها

لینک کوتاه:kherad.net/s/fnfn5j

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.