شفافیت الگوریتمی: اعلام نام مدل کافی نیست

یک سازمان اعلام می‌کند از «هوش مصنوعی پیشرفته» استفاده می‌کند و نام تأمین‌کننده را هم می‌نویسد. این اطلاع‌رسانی هنوز به پرسش اصلی فرد متأثر پاسخ نمی‌دهد: آیا ابزار فقط اطلاعات را مرتب کرده یا در نتیجه پرونده او سهم داشته است؟ چه کسی نتیجه را تأیید کرده و از چه طریقی می‌توان آن را بررسی کرد؟

شفافیت مفید باید رابطه میان ابزار و تصمیم را روشن کند. نام مدل، تعداد پارامترها یا فهرست ویژگی‌های محصول، جای این توضیح را نمی‌گیرد. در مقابل، انتشار بی‌قاعده جزئیات شخصی یا امنیتی نیز لزوماً پاسخ‌گویی را بیشتر نمی‌کند.

یک تجربه قابل بررسی

راهنمای استاندارد ثبت شفافیت الگوریتمی بریتانیا، موسوم به ATRS، الگویی برای انتشار اطلاعات درباره ابزارهای الگوریتمی و دلیل استفاده از آن‌ها ارائه می‌کند. راهنمای به‌روزشده در مه ۲۰۲۵ برای بخشی از نهادها و کاربردهای عمومی دامنه اجباری تعریف می‌کند؛ این دامنه به همه ابزارها و همه نهادها تعمیم ندارد. این نمونه یک سیاست در بریتانیاست، نه قاعده لازم‌الاجرای عمومی در ایران.

نکته قابل انتقال، وجود یک سابقه عمومی قابل مراجعه است. اطلاع‌رسانی از حالت خبر افتتاح خارج می‌شود و به توضیحی درباره ابزار، زمینه استفاده و مسئولیت سازمانی نزدیک می‌شود. با این حال، وجود یک مدخل در فهرست، به‌تنهایی درستی یا بی‌طرفی سامانه را ثابت نمی‌کند.

شفافیت برای چه کسی؟

شهروند به زبان روشن نیاز دارد: ابزار چه نقشی داشته، چه داده‌ای استفاده شده و برای اصلاح اشتباه کجا باید مراجعه کند. ناظر مستقل ممکن است به شواهد ارزیابی و تغییرات نسخه نیاز داشته باشد. کارشناس داخلی هم باید بداند کدام خروجی را چگونه ثبت یا رد کند. یک متن واحد با اصطلاحات فنی سنگین، لزوماً برای این سه گروه کافی نیست.

به‌عنوان پیشنهاد تحریریه، توضیح عمومی می‌تواند کوتاه باشد و اسناد تخصصی در لایه بعدی قرار بگیرند. این طراحی هم از انباشت جزئیات نامفهوم جلوگیری می‌کند و هم امکان ارزیابی عمیق‌تر را از بین نمی‌برد.

حداقل اطلاعات قابل انتشار

یک شناسنامه کاربرد بهتر است مسئله موردنظر، دامنه اثر ابزار و مرز اختیار انسان را توضیح دهد. سپس مسئول سازمانی، تاریخ شروع، تاریخ آخرین بازبینی، محدودیت‌های شناخته‌شده و روش گزارش خطا را مشخص کند. اگر خروجی فقط پیشنهاد است، باید روشن شود چه کسی می‌تواند پیشنهاد را رد کند.

در یک مثال فرضی، شهرداری از سامانه‌ای برای اولویت‌بندی درخواست‌های تعمیر استفاده می‌کند. جمله «سامانه هوشمند است» چیزی درباره وزن شدت خرابی، اطلاعات ناقص یا دسترسی محله‌های کم‌برخوردار نمی‌گوید. توضیح مؤثر باید نشان دهد رتبه چگونه در برنامه کار استفاده می‌شود و درخواست جامانده چگونه دوباره بررسی خواهد شد.

انتشار با قابلیت اصلاح

شناسنامه باید زنده بماند. تغییر داده ورودی، تأمین‌کننده، دامنه کاربران یا نقش سامانه در تصمیم، ممکن است توضیح قبلی را بی‌اعتبار کند. تعیین صاحب سند و تاریخ بازبینی، بخشی از کار است. نسخه قبلی نیز بهتر است برای فهم تغییرات در دسترس ناظر بماند.

اطلاعات مربوط به افراد و جزئیاتی که انتشارشان آسیب امنیتی ایجاد می‌کند، نیازمند بررسی جداگانه‌اند. اما محرمانگی یک بخش نباید به بهانه‌ای برای حذف توضیح درباره هدف، مسئول یا مسیر رسیدگی تبدیل شود. مرز انتشار باید توجیه‌پذیر باشد.

شفافیت چه زمانی اثر دارد؟

اگر فرد از نقش ابزار باخبر شود اما راهی برای طرح خطا نداشته باشد، اطلاع‌رسانی ناقص است. اگر راه اعتراض وجود داشته باشد اما بررسی‌کننده به شواهد دسترسی نداشته باشد، پاسخ‌گویی هم ناقص می‌ماند.

پیشنهاد خرد این است که سازمان پیش از انتشار شناسنامه، آن را با یک سناریوی خطای واقعی یا فرضی امتحان کند. آیا فرد متأثر می‌فهمد چه اتفاقی افتاده و چه اقدامی می‌تواند انجام دهد؟ پاسخ این پرسش، معیار بهتری از طول سند برای سنجش شفافیت است.

درباره این مطلب

این مطلب با کمک ابزارهای هوش مصنوعی تهیه شده و تحلیل‌ها و پیشنهادهای آن متعلق به تحریریه خرد است. منابع اصلی در پیوندهای زیر آمده‌اند؛ مثال‌های فرضی، گزارش رویداد واقعی نیستند.

منابع اصلی

دولت بریتانیا؛ راهنمای استاندارد ثبت شفافیت الگوریتمی، به‌روزرسانی مه ۲۰۲۵

UNESCO؛ توصیه‌نامه اخلاق هوش مصنوعی، ۲۰۲۱