آرشیو خبر | یونسکو نسبت هوش مصنوعی مولد و اعتبار دانش را بررسی می‌کند

خلاصه مطلب

یونسکو در ۳۰ اکتبر ۲۰۲۶ از ادامه بررسی کمیسیون اخلاق دانش علمی و فناوری درباره نسبت تولیدات هوش مصنوعی مولد با مفهوم دانش خبر داد؛ گزارش نهایی برای سال ۲۰۲۷ در نظر گرفته شده است. این مطلب پیامدهای موضوع را برای تصمیم‌گیران بررسی می‌کند: پاسخ منسجم چه پشتوانه‌ای دارد، منبع آن چگونه سنجیده می‌شود و مسئولیت استفاده از خروجی بر عهده چه کسی است؟

خبر چه می‌گوید

یونسکو در ۳۰ اکتبر ۲۰۲۶ گزارش داد که کمیسیون جهانی اخلاق دانش علمی و فناوری، COMEST، کار خود را درباره تولیدات هوش مصنوعی مولد و مفهوم دانش پیش می‌برد. موضوعاتی مانند منبع معتبر و پاسخ‌گو و نحوه نسبت‌دادن مسئولیت خروجی‌ها در این بررسی مطرح‌اند. نشست‌های مرتبط از ۲۸ سپتامبر تا ۲ اکتبر در پاریس برگزار شده‌اند.

در همان گزارش، تصویب گزارش‌های نهایی برای ۲۰۲۷ در نظر گرفته شده است. بنابراین این خبر را نباید اعلام یک استاندارد نهایی یا قاعده حقوقی تازه تلقی کرد. موضوع، یک فرایند بررسی اخلاقی است و نتیجه آن هنوز در سند خبر نهایی نشده است.

برای مدیر، مسئله از کجا شروع می‌شود

در یک مثال فرضی، دستیار مدیریتی گزارشی درباره افت کیفیت یک خدمت تهیه می‌کند. بخشی از اعداد از پایگاه داخلی آمده، بخشی برداشت مدل از چند یادداشت است و بخشی پیشنهاد خود سامانه است. اگر همه این‌ها در یک لحن قطعی ارائه شوند، خواننده ممکن است میان داده ثبت‌شده، تفسیر و حدس تفاوت نگذارد.

پیشنهاد خرد، ثبت منشأ هر ادعای مؤثر بر تصمیم است. لازم نیست هر جمله اداری سند مفصل داشته باشد؛ اما عدد، نسبت علّی و پیشنهاد پرپیامد باید تا شواهد قابل بررسی دنبال شود. نبود شواهد هم باید به‌جای اطمینان ساختگی، در ارزیابی دیده شود.

منبع معتبر یک برچسب ثابت نیست

یک نهاد می‌تواند درباره فرایند داخلی خود اطلاع مستقیم داشته باشد و در عین حال، در ارزیابی موفقیت آن ذی‌نفع باشد. یک پژوهش نیز ممکن است روش روشن داشته باشد اما فقط به نمونه و شرایط محدود مربوط باشد. اعتبار از رابطه ادعا با شواهد و دامنه آن به دست می‌آید، نه صرفاً از شهرت نام منبع.

در تحلیل تحریریه، خروجی ابزار باید امکان تشخیص این تفاوت‌ها را بیشتر کند. ترکیب منابع نباید باعث شود محدودیت یک گزارش یا تعارض میان دو سند در متن نهایی ناپدید شود. خلاصه خوب، مهم‌ترین عدم قطعیت را هم منتقل می‌کند.

مسئولیت را به خروجی واگذار نکنیم

توصیه‌نامه اخلاق AI یونسکو در سال ۲۰۲۱ بر مسئولیت و پاسخ‌گویی انسانی و امکان نظارت تأکید می‌کند. برای سازمان، تبدیل این اصل به عمل یعنی معلوم باشد چه کسی ادعا را بررسی کرده و بر چه مبنایی تصمیم گرفته است. نام ابزار در پایان گزارش، جای این مسئولیت را نمی‌گیرد.

اگر گزارش خودکار در جلسه مبنای اقدام شد، باید بتوان نسخه منابع و اصلاحات مؤثر را بازسازی کرد. در کاربردهای مهم، ثبت دلیل پذیرش یا رد پیشنهاد نیز می‌تواند به یادگیری سازمان کمک کند. شدت ثبت و کنترل باید متناسب با پیامد تصمیم باشد.

چه پرسشی را در جلسه بعدی بپرسیم

از تهیه‌کننده گزارش بخواهید سه بخش را مشخص کند: آنچه مستند می‌دانیم، آنچه از شواهد استنباط می‌کنیم و آنچه هنوز باید بررسی شود. سپس بپرسید چه اطلاعات تازه‌ای می‌تواند نتیجه پیشنهادی را تغییر دهد.

این روش پیشنهادی، اطمینان صددرصد ایجاد نمی‌کند؛ اما امکان مخالفت مستدل و اصلاح را بیشتر می‌کند. ارزش AI در تصمیم‌گیری زمانی روشن‌تر می‌شود که به سازمان کمک کند کیفیت دانسته‌های خود را بهتر بسنجد، نه اینکه فقط متن بیشتری با اطمینان ظاهری تولید کند.

درباره این مطلب

این مطلب با کمک ابزارهای هوش مصنوعی تهیه شده است. ادعاهای منابع از تحلیل و پیشنهادهای تحریریه خرد متمایز شده‌اند؛ تصویر مفهومی است و مثال‌های فرضی، رویداد واقعی را گزارش نمی‌کنند.

منابع اصلی

یونسکو؛ گزارش کار نهادهای اخلاقی درباره AI مولد و دانش، ۳۰ اکتبر ۲۰۲۶

یونسکو؛ توصیه‌نامه اخلاق هوش مصنوعی، ۲۰۲۱