ادعاهای هوش مصنوعی را چگونه راستی‌آزمایی کنیم؟

اگر هوش مصنوعی با اطمینان می‌گوید «این عدد طبق پژوهش فلان نهاد است»، اعتماد به لحنِ آن کافی نیست. مدل ممکن است نامِ منبع، تاریخ، عدد یا حتی نشانیِ اینترنتی را اشتباه بسازد. راهِ عملی این است که پاسخ را به ادعاهای کوچک و قابل‌سنجش تقسیم کنید و فقط همان ادعاهای اثرگذار بر تصمیم را با منبعِ اصلی بررسی کنید.

کدام جمله‌ها باید بررسی شوند؟

جملهٔ «این روش می‌تواند کمک کند» یک پیشنهادِ کلی است؛ جملهٔ «این قانون از اولِ آبان اجرا می‌شود» ادعای زمان‌مند و حساس است. عددها، نقل‌قول‌ها، نامِ پژوهش، مشخصاتِ محصول و توصیهٔ مربوط به سلامت یا پول، اولویتِ راستی‌آزمایی دارند. اگر پاسخ قرار است به برنامهٔ اجرایی تبدیل شود، خطای یکی از این موارد می‌تواند کلِ برنامه را جابه‌جا کند.

یک درخواستِ مفید از خودِ مدل: «ادعاهای قابل‌بررسیِ پاسخ قبلی را در جدولِ ادعا، منبعِ پیشنهادی و سطحِ اطمینان فهرست کن. اگر منبعِ اولیه نداری، صریح بگو.» اما این جدول هم سندِ نهایی نیست. نامِ نهاد را در وبگاهِ رسمی خودش جست‌وجو کنید، صفحهٔ واقعی را باز کنید، تاریخِ انتشار و دامنهٔ موضوعِ آن را بخوانید. ارجاع به یک گزارش واقعی، به معنی درست بودنِ برداشتِ مدل از آن گزارش نیست.

یک مثال ساده

فرض کنید در پاسخ به پرسشِ هزینهٔ یک کار کوچک، مدل می‌گوید «بازارِ این خدمت امسال ۳۰ درصد رشد کرده است». پیش از آنکه این رقم را وارد طرحِ ایدهٔ کسب‌وکار کنید، ببینید ۳۰ درصد دربارهٔ کدام کشور، کدام سال و کدام شاخص است. اگر دادهٔ رسمی پیدا نشد، رقم را حذف کنید و تصمیم را بر داده‌های خودتان و گفت‌وگو با مشتریِ واقعی بنا کنید. عددِ بی‌منبع را با عبارتِ «تقریبی» قابل‌اعتماد نمی‌کنیم.

گزارش NIST دربارهٔ هوش مصنوعی مولد به ساختنِ واقعیت و ارجاعِ ظاهراً معتبر به‌عنوان خطر اشاره می‌کند. برای اطلاعاتِ شخصی نیز متن یا سندِ محرمانه را بی‌فکر در ابزار عمومی بارگذاری نکنید؛ سیاستِ دادهٔ همان خدمت را بخوانید. اگر منبع معتبر پیدا نشد، پاسخِ صادقانه «نمی‌دانم» بهتر از پر کردنِ جای خالی با حدس است. راستی‌آزمایی باید به اندازهٔ اثرِ تصمیم عمیق باشد: برای فهرستِ ایده‌ها سبک‌تر، برای تصمیمِ مالی یا درمانی جدی‌تر.