خرد
حکمرانیِ هوش مصنوعی

الگوریتم به‌مثابه قانون‌گذار پنهان؛ مشروعیت قواعد پلتفرم از کجا می‌آید؟

تحریریه خردمنبع: لارنس لسیگ؛ Code: Version 2.0 و اصول سانتا کلارا

پلتفرم می‌تواند با قواعد فنی، دسترسی و فرصت افراد را تغییر دهد. مالکیت زیرساخت و رضایت به شرایط استفاده، همه پرسش‌های مشروعیت و حق اعتراض را پاسخ نمی‌دهند.

درگاه چرخان شیشه‌ای در ورودی بازار سنگی با سازوکار برنجی آشکار و در کناری برای بازبینی؛ تصویر مفهومی قاعده‌گذاری خصوصی.
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد؛ نمایش رویداد یا سامانه واقعی نیست.

فروشنده‌ای از بازار آنلاین کنار گذاشته می‌شود، محتوایی کمتر دیده می‌شود و کاربری با شرط دسترسی متفاوتی روبه‌رو می‌شود. گاهی هیچ مأمور دولتی در این تصمیم مستقیم حضور ندارد؛ قاعده در نرم‌افزار اجرا شده است. پرسش حکمرانی از همین‌جا آغاز می‌شود: چه کسی این قاعده را تعیین کرده و فرد متأثر، چه امکان واقعی برای فهمیدن و اعتراض دارد؟

«قانون‌گذار» در این بحث یک استعاره است

پلتفرم خصوصی جای قانون‌گذار رسمی را نمی‌گیرد و اختیارش بیرون از حقوق و قراردادها نیست. مقصود از قانون‌گذاری پنهان، توان عملی آن در شکل‌دادن به رفتار و فرصت است. کد می‌تواند بعضی انتخاب‌ها را ممکن، دشوار یا ناممکن کند؛ بی‌آنکه کاربر هنگام هر تصمیم، با متن یک قاعده روبه‌رو شود.

لارنس لسیگ در کتاب Code: Version 2.0 معماری فنی را یکی از راه‌های تنظیم رفتار در فضای دیجیتال بررسی می‌کند. استفاده این یادداشت از آن ایده، تحلیل قدرت قاعده‌گذاری در پلتفرم‌های مجهز به هوش مصنوعی است؛ ادعا نمی‌کند لسیگ درباره سامانه‌های امروز یا مشروعیت هر کاربرد خاص داوری کرده است.

هوش مصنوعی هم آغاز همه این مسائل نیست. یک قاعده ثابتِ نرم‌افزاری می‌تواند دسترسی را محدود کند. مدل یادگیرنده ممکن است تشخیص، رتبه‌بندی یا اجرای آن را تغییر دهد و فهم رابطه داده با پیامد را دشوارتر کند. بنابراین باید هم قاعده و هم روش اجرای آن بررسی شوند.

اجرای دقیق، قاعده را موجه نمی‌کند

در یک مثال فرضی، پلتفرم سفارش‌ها را بر اساس سرعت پاسخ فروشنده توزیع می‌کند. سامانه می‌تواند این معیار را بی‌خطا محاسبه کند؛ اما هنوز باید پرسید آیا معیار با کیفیت خدمت رابطه کافی دارد، فروشندگان چه فرصت‌هایی برای پاسخ‌گویی دارند و استثناهای موجه چگونه دیده می‌شوند.

این دو داوری متفاوت‌اند: آیا ابزار همان کاری را انجام می‌دهد که طراحی شده و آیا آن طراحی قابل دفاع است؟ تفاوت توضیح‌پذیری و کیفیت تصمیم نیز به همین تمایز کمک می‌کند. توضیح یک امتیاز می‌تواند روشن باشد، در حالی که خود معیار یا پیامد متصل به آن نیازمند اصلاح است.

پذیرش شرایط استفاده چه چیزی را حل می‌کند؟

قرارداد، مبنایی مهم برای تنظیم رابطه است؛ اما کلیک‌کردن روی شرایط استفاده، همه پرسش‌های اخلاقی درباره قدرت را پایان نمی‌دهد. امکان انتخاب واقعی، هزینه خروج، وابستگی معیشتی و امکان فهم تغییرات، بر ارزیابی این رابطه اثر می‌گذارند. این بحث، حکم به بی‌اعتباری حقوقی همه قراردادهای پلتفرمی نیست.

در خوانشی از مسئله قرارداد اجتماعی، قاعده موجه باید بتواند در برابر کسانی که از آن متأثر می‌شوند دفاع شود. انتقال این پرسش به نهاد خصوصی به معنای برابرگرفتن شرکت و دولت نیست؛ مسئولیت باید با نوع خدمت، شدت وابستگی و دامنه اثر متناسب باشد. یک ابزار تفریحی اختیاری و درگاه ضروری کسب درآمد، وضعیت یکسانی ندارند.

اعتراض به نتیجه یا اعتراض به قاعده؟

فرد ممکن است بگوید داده من اشتباه است؛ ممکن است بگوید قاعده درباره وضعیت من بد اجرا شده؛ یا اصل قاعده را نامتناسب بداند. فرمی که فقط اجازه اصلاح شماره پرونده می‌دهد، به دو اعتراض دیگر پاسخ نمی‌دهد. مسیر رسیدگی باید معلوم کند کدام مسئول اختیار بررسی هر سطح را دارد.

اصول سانتا کلارا درباره شفافیت و پاسخ‌گویی در تعدیل محتوا توصیه می‌کنند قواعد روشن باشند، دلیل اقدام به کاربر اطلاع داده شود و امکان اعتراض مؤثر فراهم باشد. این اصول داوطلبانه‌اند و الگوی قانون الزام‌آور برای همه پلتفرم‌ها نیستند. اهمیتشان برای این بحث، تبدیل واژه پاسخ‌گویی به اجزای قابل بررسی در یک حوزه مشخص است.

در محیط کار هم صدای کارکنان در مدیریت الگوریتمی نشان می‌دهد شنیدن اعتراض نباید به آموزش استفاده از سامانه تقلیل پیدا کند. مشارکت زمانی معنا دارد که بتواند در تعریف معیار و اصلاح آن اثر بگذارد.

مشروعیت، فرایندی قابل آزمون

پیشنهاد این یادداشت، چهار پرسش برای بررسی یک قاعده خصوصی است: هدف آن چیست؛ اثر و هزینه‌اش برای گروه‌های مختلف چگونه سنجیده شده؛ فرد چه توضیحی دریافت می‌کند؛ و چه مسیری می‌تواند نتیجه یا خود قاعده را تغییر دهد؟ پاسخ عمومی لازم نیست اسرار فنی یا داده دیگران را افشا کند، اما نباید صرفاً تکرار کند که تصمیم «طبق الگوریتم» بوده است.

برای شروع، یک نوع محدودیت پرپیامد را انتخاب کنید و چند پرونده آن را از اعلام دلیل تا پایان اعتراض دنبال کنید. اگر همه درخواست‌ها به همان نمره اولیه بازمی‌گردند و هیچ مرجع دارای اختیار وجود ندارد، مسیر اعتراض هنوز کامل نیست. مالکیت زیرساخت، امکان تعیین قاعده می‌دهد؛ موجه‌بودن شیوه اعمال این قدرت، به توضیح و رسیدگی نیاز دارد.

برچسب‌ها

لینک کوتاه:kherad.net/s/akfbyp

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.