خرد
حکمرانی هوش مصنوعی

سازمان شما چند کاربرد هوش مصنوعی دارد؟ مسئله‌ای که با فهرست خرید حل نمی‌شود

تحریریه خردمنبع: راهنمای استاندارد ثبت شفافیت الگوریتمی بریتانیا

فهرست ابزارهای خریداری‌شده، نقشه استفاده واقعی از هوش مصنوعی نیست؛ واحد حکمرانی باید کاربرد، داده، مسئول تصمیم و پیامد هر استفاده را بشناسد.

تصویر مفهومی از ماژول‌های نهادی در کشوهای منظم و کاربردهایی که از زیر پوشش شفاف آشکار می‌شوند
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد

خلاصه مطلب

یک ابزار مشترک ممکن است در چند واحد برای تصمیم‌هایی با پیامدهای کاملاً متفاوت استفاده شود. ثبت نام نرم‌افزار و فروشنده برای شناخت این تفاوت کافی نیست. پیشنهاد این یادداشت، تهیه فهرست کاربردهاست: هر استفاده به یک فرایند، مسئول، نوع داده و دامنه اثر متصل شود تا سازمان بداند چه چیزی را باید ارزیابی و چه چیزی را باید محدود کند.

ابزار را می‌خریم، کاربرد را اداره می‌کنیم

فرض کنید در یک شرکت، دستیار متنی واحدی برای نگارش خبر داخلی، خلاصه‌کردن قرارداد و رتبه‌بندی درخواست‌های استخدام استفاده می‌شود. این مثال فرضی، سه خرید جداگانه نیست؛ اما سه موقعیت متفاوت برای خطا، محرمانگی و پاسخ‌گویی ایجاد می‌کند. فهرست مجوزهای نرم‌افزار فقط نشان می‌دهد ابزار در دسترس است، نه اینکه خروجی آن کجا وارد تصمیم شده است.

از همین‌جا واحد ثبت باید تغییر کند. پرسش مفید این نیست که «کدام مدل را داریم؟»؛ باید پرسید «چه کسی، با کدام داده، برای چه کاری از آن استفاده می‌کند؟» پاسخ این پرسش می‌تواند کاربرد کم‌خطر را از کاربردی جدا کند که بر فرصت شغلی یا تعهد قراردادی فرد اثر می‌گذارد.

از تجربه ثبت الگوریتم‌ها چه می‌آموزیم؟

راهنمای ثبت شفافیت الگوریتمی بریتانیا، ATRS، اطلاعاتی درباره هدف ابزار، جایگاه آن در فرایند، مسئولیت، داده و ریسک درخواست می‌کند. ارزش این نمونه برای سازمان‌های دیگر، ساختاری است که معرفی فناوری را به توضیح کاربرد وصل می‌کند. در این یادداشت آن را الگوی مستندسازی می‌گیریم؛ دامنه الزام‌های بریتانیا به سازمان‌های ایرانی تعمیم داده نمی‌شود.

چارچوب NIST نیز در بخش GOVERN 1.6 به سازوکار ثبت و فهرست‌کردن سامانه‌های هوش مصنوعی، متناسب با اولویت ریسک، توجه دارد. این توصیه‌ها اثبات نمی‌کنند که داشتن یک فهرست به‌تنهایی خطا را کاهش می‌دهد؛ فهرست باید به تصمیم‌های عملی متصل باشد.

حداقل اطلاعات مفید چیست؟

برای هر کاربرد، یک برگه کوتاه کافی است: نام فرایند، واحد بهره‌بردار، مسئول عملیاتی، نوع داده، مخاطب خروجی و تصمیمی که از آن اثر می‌گیرد. سپس مشخص شود خروجی فقط پیش‌نویس است یا مستقیماً به ثبت، رد، اولویت‌بندی یا ارسال منجر می‌شود. نام مدل، نسخه و تأمین‌کننده در همین برگه قرار می‌گیرند، اما جای اطلاعات مربوط به تصمیم را نمی‌گیرند.

تاریخ آخرین ارزیابی، محدودیت‌های شناخته‌شده و مسیر گزارش خطا نیز ضروری‌اند. ثبت باید معلوم کند چه کسی می‌تواند استفاده را متوقف کند. اگر هیچ فردی مسئول نگهداری رکورد نباشد، برگه خیلی زود به تصویری از گذشته تبدیل می‌شود.

کاربردهای پنهان را با چه روشی پیدا کنیم؟

پیشنهاد عملی، ترکیب گفت‌وگو با واحدها و بررسی فرایندهای خرید، دسترسی و اشتراک‌گذاری داده است. اتکا به گزارش خوداظهاری یا ثبت مالی، به‌تنهایی پوشش کامل را تضمین نمی‌کند. جست‌وجوی کاربردها هم باید با رعایت حریم خصوصی و ضوابط سازمان انجام شود؛ هدف، شناخت مسیر تصمیم است، نه نظارت بی‌حد بر کارکنان.

اگر اعلام استفاده فوراً به برخورد تنبیهی منجر شود، انگیزه پنهان‌کردن آن ایجاد می‌شود. می‌توان مسیر اعلام و ارزیابی ساخت، استفاده‌های مجاز را روشن کرد و موارد حساس را جداگانه بررسی کرد. این پیشنهاد مدیریتی باید با مقررات و شرایط همان سازمان تطبیق یابد.

فهرست چگونه زنده می‌ماند؟

تغییر هدف، افزودن داده محرمانه، اتصال ابزار اقدام یا ورود یک گروه جدید از کاربران، باید بازبینی رکورد را فعال کند. برای کاربردهای کم‌اثر، بررسی سبک مناسب است؛ برای کاربردهای مؤثر بر حقوق یا دسترسی افراد، اطلاعات و آزمون بیشتری لازم می‌شود. یک فرم طولانی یکسان برای همه، هزینه اداری می‌سازد بی‌آنکه لزوماً دید بهتری ایجاد کند.

برای شروع، یک فرایند حساس را انتخاب کنید و تمام نقاط استفاده از هوش مصنوعی در آن را ثبت کنید. سه شاخص پیشنهادی عبارت‌اند از سهم کاربردهای دارای مسئول مشخص، سهم کاربردهای حساس با ارزیابی معتبر و زمان رسیدگی به گزارش استفاده ثبت‌نشده. شمار زیاد رکوردها، به‌خودی‌خود نشانه حکمرانی بهتر نیست؛ ملاک این است که فهرست به تشخیص مسئول و تصمیم اصلاحی کمک کند.

منابع اصلی

راهنمای استاندارد ثبت شفافیت الگوریتمی بریتانیا

چارچوب مدیریت ریسک هوش مصنوعی NIST، نسخه ۱٫۰، ۲۰۲۳

برچسب‌ها

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.