خرد
حکمرانیِ هوش مصنوعی

از آیین‌نامه تا کنترل اجرا؛ حکمرانی درگاه‌های MCP

تحریریه خردمنبع: مستندات رسمی MCP؛ معماری و امنیت اتصال ابزارها

اتصال عامل هوش مصنوعی به ابزار، دامنه اثر خطا را تغییر می‌دهد. درگاه MCP می‌تواند بخشی از کنترل اجرا باشد؛ کارایی آن به پوشش مسیرها، مجوزهای مقصد و امکان پیگیری اقدام وابسته است.

چند مسیر شیشه‌ای فیروزه‌ای در کنار دریچه برنجی با یک گذرگاه باز و مسیرهای محدودشده؛ تصویر مفهومی کنترل اتصال ابزارها.
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد؛ نمودار فنی پروتکل MCP نیست.

یک سازمان به دستیار هوش مصنوعی اجازه می‌دهد اسناد را بخواند و پیش‌نویس پاسخ تهیه کند. همان دستیار بعداً به ایمیل و نرم‌افزار مالی متصل می‌شود. حالا یک خروجی نامناسب ممکن است به ارسال پیام یا تغییر رکورد منجر شود. پرسش حکمرانی این است: کدام سامانه می‌تواند اقدام نامجاز را پیش از اجرا متوقف کند و مسئول آن را نشان دهد؟

آیین‌نامه همچنان لازم است؛ اما باید به قاعده قابل اجرا تبدیل شود. کنترل دسترسی و امنیت API پیش از ظهور عامل‌ها نیز وجود داشتند. ابزارهای متصل به مدل، نیاز به بازبینی دامنه اختیار و ترکیب اقدام‌ها را بیشتر می‌کنند؛ تأیید اولیه محصول، پایان ارزیابی نیست.

MCP اتصال را تعریف می‌کند؛ اختیار را باید طراحی کرد

پروتکل MCP راهی مشترک برای ارتباط برنامه‌های هوش مصنوعی با ابزارها و منابع داده فراهم می‌کند. در معماری آن، برنامه میزبان از طریق کلاینت به سرور MCP متصل می‌شود؛ سرور می‌تواند ابزار یا منبع داده عرضه کند. خود پروتکل تعیین نمی‌کند برنامه چگونه مدل را به کار بگیرد یا چه اقدام تجاری‌ای مجاز باشد.

بنابراین «متصل‌بودن» با «مجازبودن هر اقدام» یکی نیست. سرور ممکن است خواندن و ویرایش را هر دو عرضه کند، درحالی‌که وظیفه مورد تأیید سازمان فقط خواندن باشد. همچنین اتصال یک ابزار، به معنای خودمختاری کامل عامل نیست؛ برنامه میزبان می‌تواند حدود استفاده و نیاز به تأیید را مشخص کند.

برای شناخت این تفاوت، فهرست خرید کافی نیست. در ثبت کاربردهای واقعی هوش مصنوعی باید اتصال‌ها، داده‌ها و اقدام‌های مجاز نیز دیده شوند. اصطلاح «اتصال بدون نظارت» در این یادداشت، توصیف اتصال فاقد ارزیابی یا مسئول مشخص است؛ نام یک طبقه رسمی در استاندارد MCP نیست.

خطر فقط اتصال بدون مجوز نیست

یک اتصال تأییدشده نیز می‌تواند در اختیار حسابی با مجوز بیش از نیاز باشد. راهنمای OWASP درباره اختیار بیش از اندازه سه منشأ را تفکیک می‌کند: قابلیت اضافی ابزار، مجوز اضافی در سامانه مقصد و خودمختاری اضافی برای اجرا. کنترل هر سه لازم است؛ محدودکردن نام ابزارها به‌تنهایی کافی نیست.

خطر دیگر، تزریق دستور غیرمستقیم است: محتوای یک سند، ایمیل یا صفحه بیرونی ممکن است رفتار مدل را منحرف کند. ورودی ظاهراً مرتبط با کار می‌تواند حاوی درخواست نامجاز باشد. این خطر به MCP اختصاص ندارد و از داشتن اتصال احراز هویت‌شده نیز نمی‌توان مصونیت مدل را نتیجه گرفت.

در یک مثال فرضی، دستیارِ بررسی صورت‌حساب، داخل پیوست با درخواستی برای ارسال اطلاعات به گیرنده‌ای دیگر روبه‌رو می‌شود. محتوای پیوست اختیار تازه ایجاد نمی‌کند. حتی اگر مدل فریب بخورد، سامانه ارسال باید بتواند درخواست خارج از مجوز را رد کند.

درگاه MCP کجای معماری قرار می‌گیرد؟

منظور از «درگاه MCP» در این مطلب، واسطی میان کلاینت‌ها و سرورهای ابزار است که سازمان می‌تواند بخشی از قواعد دسترسی، اعتبارسنجی و پایش را در آن اعمال کند. این یک انتخاب معماری است، نه جزء الزامی پروتکل یا محصولی با مجموعه قابلیت تضمین‌شده.

عنوان «AI Gateway» نیز کافی نیست. یک واسط مدیریت درخواست مدل ممکن است اصلاً فراخوانی ابزارهای MCP را نبیند. پیش از انتخاب باید روشن شود درگاه کدام ترافیک، هویت و مرحله اجرای کار را پوشش می‌دهد. اگر اتصال مستقیم یا مسیر محلی از آن عبور نکند، کنترل متمرکز آن مسیر را پوشش نمی‌دهد.

کنترل می‌تواند میان برنامه میزبان، درگاه، سرور MCP و سامانه مقصد توزیع شود. نقطه تعیین‌کننده این است که قاعده فقط در دستور متنی مدل نباشد. در تعیین مرز اختیار عامل، اجازه تولید پیش‌نویس با اجازه ارسال، حذف یا ایجاد تعهد یکسان نیست.

از درگاه و سامانه مقصد چه بخواهیم؟

پیشنهاد خرد این است که قابلیت‌های مورد نیاز، پیش از خرید یا توسعه به آزمون تبدیل شوند. موارد زیر فهرست انتظارند؛ وجودشان در هر محصول یا نصب باید جداگانه اثبات شود.

۱. هویت و مجوز روشن: معلوم باشد اقدام برای کدام کاربر یا حساب خدمت انجام می‌شود. حساب مشترک پرقدرت می‌تواند تفاوت اختیار کاربران را از بین ببرد. محدودیت باید در سامانه مقصد نیز اعمال شود؛ اعتبار توکن به‌تنهایی مجوز تغییر هر رکورد نیست.

در مشخصات مجوزدهی MCP برای ارتباط‌های HTTP، نقش کلاینت، سرور منبع و مرجع صدور توکن از هم جدا شده است. راهنمای امنیت MCP نیز پذیرش و عبور توکنی را که برای آن سرور صادر نشده، الگوی نامجاز می‌داند. ارتباط واسط با API بعدی هم به توکن متناسب همان مقصد نیاز دارد؛ توکن ورودی کلاینت نباید صرفاً به آن منتقل شود. اتصال‌های محلی نیز به کنترل فرایند، فایل و اعتبارنامه نیاز دارند؛ یک کنترل شبکه‌ای همه آن‌ها را پوشش نمی‌دهد.

۲. کنترل داده در مسیر واقعی: اگر پالایش اطلاعات حساس لازم است، باید معلوم شود در کدام مرحله و روی چه داده‌ای اجرا می‌شود. پوشاندن یک شناسه، تضمین حذف همه اطلاعات محرمانه نیست. داده ممکن است از ترکیب چند فیلد قابل شناسایی شود یا از مسیر دیگری خارج شود. نمونه‌های واقعیِ مجاز و موارد دشوار باید آزموده شوند.

۳. تأیید انسانی متناسب با اقدام: برای عملیات حساس، کاربر مسئول باید مقصد، محتوای اقدام و اثر آن را ببیند. پیشنهاد تحریریه این است که تأیید به همان اقدام مشخص متصل باشد؛ تغییر گیرنده یا پارامتر مؤثر، بررسی تازه بخواهد. خواندن نیز همیشه کم‌ریسک نیست: دسترسی به پرونده کارکنان یا اطلاعات مشتری ممکن است خود حساس باشد.

ارجاع همه کارها به مدیر هم لزوماً کنترل بهتری نمی‌سازد. طراحی باید امکان نظارت انسانی مؤثر را فراهم کند؛ همراه با اطلاعات کافی، زمان بررسی و اختیار ردکردن.

۴. ردپای قابل پیگیری: شناسه درخواست، هویت مجاز، ابزار، نسخه قاعده، تصمیم مجوزدهی و نتیجه اجرای سامانه مقصد باید تا حد لازم به هم متصل شوند. ثبت فراخوانی، معادل دیدن تمام فرایند استدلال مدل نیست. داشتن لاگ درگاه هم بدون امکان تطبیق با نتیجه سامانه مقصد، مسیر کامل رخداد را نشان نمی‌دهد.

نمایه هوش مصنوعی مولد NIST، در بخش MANAGE 4.1 و بحث مستندسازی رخدادها، بر پایش پس از استقرار و نگهداری سوابق مرتبط تأکید می‌کند. در اجرای این پیشنهاد، خود لاگ نباید مخزن تازه اسرار شود: توکن و گذرواژه را در لاگ ننویسید و محتوای حساس را متناسب با هدف، دسترسی و دوره نگهداری مدیریت کنید.

درگاه چه چیزی را تضمین نمی‌کند؟

درگاه به‌تنهایی درستی پاسخ مدل، کامل‌بودن تشخیص داده حساس یا جلوگیری از همه تزریق‌های دستور را تضمین نمی‌کند. کنترل مجوز می‌تواند دامنه خسارت را محدود کند، اما اقدام دارای مجوز نیز ممکن است از نظر محتوایی یا مدیریتی غلط باشد.

تمرکز کنترل، هزینه و وابستگی عملیاتی هم دارد. اگر درگاه از دسترس خارج شود، باید از قبل معلوم باشد کدام کار متوقف می‌شود و خدمت از چه مسیر کنترل‌شده‌ای ادامه می‌یابد. خرابی نباید به بازشدن بی‌قید مسیر ابزارهای حساس منجر شود. مسئول قواعد، روش تغییر و امکان بازگشت نسخه نیز باید مشخص باشند.

برای سازمانی با چند ابزار محدود، شاید اجرای درست کنترل‌ها در میزبان و سامانه مقصد کافی باشد. درگاهی تازه زمانی توجیه بیشتری دارد که کنترل پراکنده، اتصال‌های متعدد یا نیاز به پایش مشترک مسئله واقعی ساخته باشند. تصمیم باید با هزینه نگهداری، تأخیر و ظرفیت تیم سنجیده شود.

پیش از بهره‌برداری، مسیر را آزمایش کنیم

برای هر سازمان، از جمله سازمان‌های ایرانی، نقطه شروع می‌تواند یک کاربرد محدود باشد. محلی‌بودن مدل یا داخلی‌بودن نرم‌افزار، به‌خودی‌خود درباره مناسب‌بودن مجوزها چیزی نمی‌گوید. این موضوع به بررسی محیط واقعی نیاز دارد، نه فرض کلی درباره محل استقرار.

در محیط کنترل‌شده، یک درخواست خواندن مجاز، یک درخواست تغییر خارج از اختیار و یک ورودی حاوی دستور نامرتبط را آزمایش کنید. سپس ببینید اقدام ممنوع واقعاً متوقف شده، علت رد قابل فهم است و نتیجه در سامانه مقصد چه بوده است. آزمون توقف درگاه و محدودکردن یک اتصال را هم متناسب با حساسیت خدمت انجام دهید.

پیش از گسترش، تیم باید بتواند به سه پرسش پاسخ دهد: کدام مسیرها هنوز خارج از کنترل‌اند؟ چه کسی می‌تواند اختیار را محدود کند؟ و از چه شواهدی می‌فهمیم قاعده در عمل اجرا شده است؟ ارزش درگاه، نام آن یا تعداد هشدارها نیست؛ توان محدودکردن اقدام نامجاز و فراهم‌کردن امکان رسیدگی، بدون ایجاد هزینه و اختلال نامتناسب است.

برچسب‌ها

لینک کوتاه:kherad.net/s/k5697v

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.