خرد
کیفیت تصمیم‌گیریفوری

پاسخ‌ندادنِ درست را چگونه در ارزیابی هوش مصنوعی حساب کنیم؟

سامانه‌ای که برای همه ورودی‌ها پاسخ قطعی می‌سازد، لزوماً مفیدتر نیست؛ باید کیفیت پاسخ و کیفیت ارجاع موارد نامطمئن را هم‌زمان سنجید.

تصویر مفهومی از جداسازی یک سنگ نامتعارف از مسیر خودکار و ارجاع آن به دست انسان
تصویر مفهومی ساخته‌شده با هوش مصنوعی برای تحریریه خرد

خلاصه مطلب

نرخ پاسخ‌گویی بالا زمانی ارزش دارد که پاسخ‌ها برای کاربرد مورد نظر قابل اتکا باشند. در موارد کم‌اطلاعات، متعارض یا خارج از دامنه، پرسیدن سؤال تکمیلی یا ارجاع به انسان می‌تواند نتیجه بهتری از پاسخ قطعی داشته باشد. پیشنهاد این یادداشت، ارزیابی هم‌زمان کیفیت پاسخ، سهم موارد ارجاعی و نتیجه رسیدگی به آن‌هاست؛ نه پاداش‌دادن به هر نوع سکوت یا هر نوع پاسخ.

یک پاسخ روان، مسئله را حل نکرده است

فرض کنید دستیار داخلی درباره ضابطه‌ای پاسخ می‌دهد که دو نسخه ناسازگار از آن در اسناد وجود دارد. در این مثال فرضی، انتخاب یکی از نسخه‌ها و نوشتن پاسخ مطمئن، لزوماً کمک مناسبی نیست. تشخیص تعارض و درخواست تعیین سند معتبر می‌تواند تصمیم قابل دفاع‌تری باشد.

این رفتار باید از ابتدا در هدف سامانه تعریف شود. اگر تنها معیار موفقیت «پاسخ‌دادن به همه پرسش‌ها» باشد، تیم انگیزه‌ای برای ثبت درست محدودیت‌ها نخواهد داشت. در مقابل، اگر هر مورد دشوار بی‌دلیل به انسان سپرده شود، کارایی و دسترسی کاربران آسیب می‌بیند.

پژوهش درباره امتناع چه می‌گوید؟

در یادگیری ماشین، «پیش‌بینی انتخابی» به سامانه امکان می‌دهد برای بخشی از ورودی‌ها از ارائه نتیجه خودداری کند. پژوهش SelectiveNet در سال ۲۰۱۹، یادگیری پیش‌بینی و گزینه امتناع را در شبکه عصبی بررسی می‌کند و مبادله میان پوشش و خطا را روی مجموعه‌داده‌های آزمایشی می‌سنجد. نتیجه آن، تضمین آماده برای درست‌بودن پاسخ یک مدل زبانی در محیط سازمانی نیست.

پروفایل هوش مصنوعی مولد NIST نیز به خطر تولید محتوای نادرست و لزوم ارزیابی و کنترل متناسب توجه دارد. استفاده مدیریتی از این بحث، طراحی راه ادامه کار در زمان نبود شواهد کافی است. نحوه تشخیص و آستانه ارجاع باید برای همان سامانه و همان کاربرد آزموده شود.

«نمی‌دانم» باید به اقدام بعدی وصل شود

سه وضعیت را می‌توان جدا کرد: اطلاعات کافی نیست، شواهد با هم ناسازگارند یا درخواست خارج از دامنه مجاز است. در وضعیت اول، پرسش تکمیلی ممکن است مفید باشد. در وضعیت دوم، بررسی سند معتبر لازم می‌شود. در وضعیت سوم، باید مسیر درست یا محدودیت استفاده توضیح داده شود.

این دسته‌بندی، پیشنهاد طراحی است و نباید به پاسخ‌های قالبی بی‌ارتباط تبدیل شود. کاربر باید بفهمد چه چیزی کم است و چگونه می‌تواند ادامه دهد. پیام مبهم «قادر به پاسخ‌گویی نیستم» بدون راه بعدی، فقط مسئله را جابه‌جا می‌کند.

اعلام اطمینان با سنجش اطمینان فرق دارد

وقتی مدل می‌نویسد «اطمینان بالایی دارم»، هنوز لازم است اعتبار این ادعا آزموده شود. لحن پاسخ یا عددی که خود سامانه تولید کرده، به‌تنهایی شاهد دقت در شرایط واقعی نیست. حتی سیگنال فنی اطمینان نیز باید نسبت به خطاهای مشاهده‌شده و توزیع داده ارزیابی شود.

در ارزیابی، موارد عادی، مبهم و خارج از دامنه را جدا کنید. ببینید سامانه کجا درست پاسخ داده، کجا باید ارجاع می‌داده و کجا بی‌دلیل متوقف شده است. عملکرد روی یک مجموعه محدود، همه موقعیت‌های آینده را پوشش نمی‌دهد؛ بازبینی دوره‌ای و گزارش خطا لازم می‌ماند.

پوشش کمتر، همیشه موفقیت نیست

اگر سامانه فقط به پرسش‌های آسان پاسخ دهد، ممکن است دقت بخش پاسخ‌داده‌شده بالا برود، اما بیشتر کار واقعی همچنان روی دوش کارشناسان بماند. باید سهم درخواست‌های پوشش‌داده‌شده و هزینه رسیدگی به بقیه را در کنار کیفیت پاسخ گزارش کرد. حذف موارد سخت از مخرج ارزیابی، تصویری ناقص می‌سازد.

همچنین بررسی کنید ارجاع بیش از حد بر گروه خاصی از کاربران متمرکز نشده باشد. تفاوت زبان، قالب سند یا نوع پرونده ممکن است تجربه متفاوتی ایجاد کند. میانگین یکسانِ دقت نمی‌تواند این تفاوت دسترسی به خدمت را نشان دهد.

چه چیزی وارد قرارداد و داشبورد شود؟

پیشنهاد می‌شود نرخ پاسخ نادرست، ارجاع لازمِ تشخیص‌داده‌نشده، امتناع غیرضروری و زمان حل مسئله پس از ارجاع ثبت شود. آستانه قابل قبول باید با هزینه خطا، ظرفیت انسانی و دامنه کاربرد تعیین شود. عدد ثابت برای همه تصمیم‌ها معقول نیست؛ پیش‌نویس یک متن داخلی با تصمیم مؤثر بر حق یا فرصت فرد، پیامد یکسانی ندارد.

در آزمون پذیرش، چند موردی قرار دهید که پاسخ مطلوب آن‌ها «درخواست اطلاعات بیشتر» یا «ارجاع» است. سامانه‌ای که مرز شناخت و اختیار خود را درست مدیریت می‌کند، می‌تواند از سامانه همیشه‌پاسخ‌گو مفیدتر باشد؛ مشروط به اینکه مسیر بعدی واقعاً به نتیجه برسد.

منابع اصلی

گایفمن و ال‌یانیو: SelectiveNet و گزینه امتناع از پیش‌بینی، ۲۰۱۹

پروفایل هوش مصنوعی مولد NIST، ژوئیه ۲۰۲۴

برچسب‌ها

نظرها

هنوز نظری برای این مطلب منتشر نشده است.

نظر شما

نظرها پس از بررسی و تأیید نمایش داده می‌شوند. نظرهای حاوی توهین، تهمت یا تبلیغ منتشر نمی‌شوند.