چگونه میتوان به پاسخهای هوش مصنوعی اعتماد کرد؟
در جستوجوهای اخیر گوگل، با مطرح کردن پرسشهای سادهای نظیر «میزان مجاز استفاده از نمایشگر (Screen Time) برای نوجوانان چقدر است؟»، رویکرد جدیدی در ارائه نتایج مشاهده میشود.
به گزارش هفت صبح برخلاف سالهای گذشته که گوگل تنها فهرستی از لینکها را نمایش میداد، اکنون هوش مصنوعی پاسخهای مستقیمی تولید میکند. این سامانهها نه تنها اعداد و ارقام ارائه میدهند، بلکه با تأکید بر پیچیدگی موضوع، یادآور میشوند که کیفیت و تعادلِ زمانِ صرفشده اهمیت بیشتری از تعداد ساعات دارد؛ مفاهیمی نظیر خواب، ورزش، تکالیف درسی و خلقوخوی نوجوان، متغیرهای تأثیرگذاری هستند که در این پاسخها به آنها اشاره میشود.
همچنین در پرسشهایی مانند «آیا مصرف روزانه آسپیرین ضرورت دارد؟»، هوش مصنوعی اطلاعات پزشکی مربوطه را ارائه داده و ضمن هشدار درباره خطرات احتمالی، پیشنهاد میدهد برای دریافت راهنمایی دقیقتر و شخصیسازیشده، اطلاعاتی نظیر سن و سابقه پزشکی وارد شود.
فراتر از صحتسنجی: دستهبندی پاسخها
بحثهای پیرامون هوش مصنوعی اغلب بر «صحت» متمرکز است، اما درک ماهیت پاسخ اهمیت ویژهای دارد. هر نوع پاسخ، مخاطب را به قضاوت متفاوتی وامیدارد. صاحبنظران حوزه سواد هوش مصنوعی، پاسخهای این سامانهها را در چهار دسته اصلی طبقهبندی میکنند: «واقعی، تفسیری، سازنده و راهبردی». تشخیص تفاوت بین این دستهها در قالب پاسخهای یکدست و مقتدرانه هوش مصنوعی، دشوار است.
۱. پاسخهای واقعی (Factual)
این پاسخها ادعاهایی هستند که میتوان آنها را با شواهد موجود راستیآزمایی کرد. برای مثال: «دانشگاه ویرجینیا چه زمانی تأسیس شد؟» یا «نماد شیمیایی طلا چیست؟»
- نحوه ارزیابی: ادعا باید با منابع معتبر سنجیده شود. اگر هوش مصنوعی به منبعی ارجاع داده است، بررسیِ آن لینک الزامی است و نباید تنها به متن تولیدشده اکتفا کرد.
۲. پاسخهای تفسیری (Interpretive)
این پاسخها بر پایه شواهد بنا شدهاند، اما لزوماً یک نتیجهگیری قطعی ندارند؛ مانند «چه میزان استفاده از نمایشگر برای نوجوانان بیشازحد است؟» یا «آیا دورکاری بهرهوری را افزایش میدهد؟» پاسخ به این سوالات به این بستگی دارد که چه شواهدی انتخاب و کدام موارد نادیده گرفته شدهاند.
- نحوه ارزیابی: باید فراتر از بررسی حقایق عمل کرد. بررسی اینکه سیستم بر کدام شواهد تأکید کرده و چه چیزی را حذف کرده، ضروری است. همچنین طرح این پرسش تکمیلی مفید است: «قویترین شواهد برای نتیجهگیری مخالف چیست؟»
۳. پاسخهای سازنده (Constructive)
این پاسخها «خلق» میشوند؛ مانند زمانی که از هوش مصنوعی خواسته میشود یک نامه اداری، متن سخنرانی یا طرح درس تهیه کند. در اینجا پاسخ «درست» واحدی وجود ندارد.
- نحوه ارزیابی: پاسخ باید بر اساس هدف، مخاطب و لحن بسنجید. متنی ممکن است از نظر گرامری بینقص باشد، اما با نیاز یا لحن مورد نظر همخوانی نداشته باشد.
۴. پاسخهای راهبردی (Strategic)
این پرسشها درباره «اقدام» هستند، مانند: «آیا باید روزانه آسپیرین مصرف کنم؟» پاسخها در این دسته، ترکیبی از اطلاعات و قضاوت درباره اهداف، ریسکها و شرایط شخصی است.
- نحوه ارزیابی: باید پرسید سیستم برای ارائه توصیهای دقیق، به چه اطلاعاتی نیاز دارد؟ در نظر گرفتن خطرات، جایگزینها و ضرورت مشورت با متخصص، کلیدی است. پرسش تکمیلی در چنین مواردی میتواند این باشد: «چه جزئیاتی میتواند این توصیه را تغییر دهد؟ قبل از تصمیمگیری باید با چه متخصصی مشورت کرد؟» قضاوت نهایی همواره بر عهده کاربر است.
نتیجهگیری
پاسخهای هوش مصنوعی ممکن است در حین ارائه، تغییر ماهیت دهند؛ یعنی از گزارشِ یک دستورالعمل علمی به توصیهای برای یک فرد خاص حرکت کنند، بدون اینکه تغییر محسوسی در لحن آنها ایجاد شود. پیش از آنکه صحت یک پاسخ ارزیابی شود، باید این پرسش بنیادی مطرح گردد: «این پاسخ از چه نوعی است؟» نوعِ پاسخ، مسیرِ اقدام بعدی کاربر را تعیین میکند.
