حقیقت پشت پرده‌ی چت‌بات‌ها؛ چرا نباید بی‌چون و چرا به نتایج AI اعتماد کرد؟

این شیوه جدیدِ بازیابی اطلاعات، طبیعی‌تر و راحت‌تر به نظر می‌رسد؛ گویی به جای جست‌وجو در میان انبوهی از صفحات، در حال گفتگو با یک متخصص هستید. اما آیا این روش واقعاً دقیق‌تر و قابل‌اعتمادتر است؟ فارغ از اینکه چه چیزی را جست‌وجو می‌کنید، نکاتی کلیدی وجود دارد که باید درباره عملکرد جست‌وجوی هوش مصنوعی و میزان اعتبار پاسخ‌های آن بدانید.

جست‌وجوی مبتنی بر هوش مصنوعی چگونه کار می‌کند؟

اگرچه مدل‌های مختلف هوش مصنوعی رویکردهای متفاوتی دارند، اما به طور کلی جست‌وجو در چت‌بات‌ها طی سه مرحله انجام می‌شود: ابتدا پرسش کاربر تحلیل و تفسیر می‌شود؛ سپس صفحات وب مرتبط (گاهی با کمک موتورهای جست‌وجویی مثل گوگل و بینگ) فراخوانی می‌شوند؛ و در نهایت، پاسخ نهایی در قالب آشنای چت‌بات بسته‌بندی و ارائه می‌شود.

گاهی اوقات هوش مصنوعی برای ارائه پاسخ، جست‌وجوی شما را به پرسش‌های کوچک‌تر تقسیم کرده و آن‌ها را به صورت موازی اجرا می‌کند. در برخی موارد نیز، به‌جای بررسی لحظه‌ای وب، از داده‌های آموزشی از پیش ذخیره‌شده (برای موضوعات پایدار و دانشی) استفاده می‌کند. برای مثال، گوگل جمنای از تکنیکی به نام «fan-out» برای اجرای زیر-جست‌وجوها استفاده می‌کند که به آن اجازه می‌دهد به سوالات پیچیده، پاسخ‌های بسیار دقیق‌تری بدهد؛ کاری که جست‌وجوی سنتی گوگل در مواجهه با کوئری‌های چندوجهی ممکن است در انجام آن ضعیف عمل کند.

آیا نتایج هوش مصنوعی قابل اعتماد است؟

شواهد و آمارهای جدید نشان‌دهنده چالش‌های جدی در این زمینه است. بر اساس یک مطالعه در ماه مه ۲۰۲۶ که بر روی ده‌ها هزار پرسشِ «Google AI Overview» انجام شد، مشخص شد که ۱۱ درصد از نتایج (بیش از ۱ مورد از هر ۱۰ مورد) توسط منابع ارائه‌شده پشتیبانی نمی‌شوند؛ این یعنی یک نقص فنی که کاربرِ عادی به‌راحتی متوجه آن نخواهد شد.

مطالعه دیگری که در مارس ۲۰۲۶ منتشر شد، اعتبار منابع ChatGPT (مدل GPT-5) را بررسی کرد و نشان داد که این مدل در ۷۱.۴ درصد مواقع از منابع معتبر استفاده می‌کند. این به معنای اشتباه بودن ۳۰ درصد باقی‌مانده نیست، بلکه نشان می‌دهد که هوش مصنوعی در این موارد از منابعی استفاده کرده که لزوماً به‌عنوان مراجع موثق یا تأییدشده شناخته نمی‌شوند.

وقتی شما از جست‌وجوی سنتی استفاده می‌کنید، فرآیند ارزیابی اعتبار سایت‌ها و پیوند دادنِ اطلاعات به یکدیگر بر عهده خودِ شماست؛ اما در هوش مصنوعی، شما کنترل را به الگوریتم می‌سپارید. نکته خطرناک اینجاست که اگر اطلاعاتی درباره موضوع مورد نظر شما آنلاین نباشد، جست‌وجوی سنتی این «عدم وجود» را به وضوح نشان می‌دهد، اما هوش مصنوعی تمایل دارد با اعتماد به نفسِ کاذب، پاسخی از داده‌های آموزشی خود سرهم‌بندی کند.

سخن پایانی؛ نظارت بر خروجی‌های هوش مصنوعی

از آنجایی که جست‌وجوی هوش مصنوعی یک فرآیند چندمرحله‌ای است، می‌تواند در بخش‌های مختلفی دچار خطا شود: از درک اشتباه صورت‌مسئله گرفته تا انتخاب منابع نامعتبر، قدیمی یا نامرتبط. حتی شرکت OpenAI نیز همواره به کاربران پیشنهاد می‌دهد که برای سوالات مهم، حتماً منابع و استنادات (Citations) ارائه‌شده توسط هوش مصنوعی را شخصاً بررسی و صحت‌سنجی کنند.

خلاصه اینکه، ابزارهای AI در ترکیب اطلاعات از منابع مختلف بی‌نظیر هستند، اما تا زمانی که جزئیات و حقایق کلیدی را مستقیماً از منابع اصلی تأیید نکنید، نباید به‌عنوان «حقیقت مطلق» به آن‌ها تکیه کرد. هوش مصنوعی دستیار خوبی است، اما جایگزینِ تفکر انتقادی کاربر نیست.