انسان‌ها ممکن است گفتگوهای شما با ChatGPT را بخوانند؛ راهنمای غیرفعال‌سازی

به گزارش هفت صبح و بر اساس گزارشی که «۴۰۴ مدیا» منتشر کرده است، اوپن‌آی صدها نیروی انسانی را با دستمزد ساعتی ۵۰ دلار استخدام کرده تا پرامپت‌های کاربران را بررسی کنند و به بهبود هوش مصنوعی و اصلاح پاسخ‌های آن یاری رسانند. 

هنوز به‌طور دقیق مشخص نیست که آیا کاربران هنگام خوانده شدن چت‌هایشان توسط یک ناظر انسانی مطلع می‌شوند یا خیر. طبق این گزارش، حساب‌های کاربری مورد بررسی ناشناس‌سازی می‌شوند، اما جزئیات مکالمات مخفی نمی‌ماند؛ بنابراین اطلاعات شخصی‌ای که کاربر در اختیار ChatGPT قرار می‌دهد، ممکن است توسط انسان‌ها دیده شود. اوپن‌آی به ۴۰۴ مدیا اعلام کرد که «تلاش می‌کند» پیش از ارسال مکالمات برای ناظران، اطلاعات شخصی را حذف کند، اما همچنان احتمال درز «جزئیات حساس» وجود دارد.

چگونه بررسی مکالمات را غیرفعال کنیم؟

به گفته اوپن‌آی، برای انصراف از بررسی مکالمات توسط انسان‌ها، کاربران می‌توانند گزینه «بهبود مدل برای همه» (Improve the model for everyone) را در بخش تنظیمات ChatGPT و زیرمجموعه «کنترل داده‌ها» (Data control) خاموش کنند. همچنین امکان انتخاب گزینه «روی محتوای من آموزش نبین» در پورتال حریم خصوصی وجود دارد. 

این شرکت اعلام کرده است که نیازی به اعمال تغییرات در هر دو بخش نیست. با این حال، اگر کاربری پس از انصراف تصمیم بگیرد درباره یک مکالمه بازخورد (فیدبک) ثبت کند، «کل مکالمه مرتبط با آن بازخورد ممکن است برای آموزش مدل‌ها استفاده شود». در حساب‌های تجاری و سازمانی نظیر ChatGPT Business، Enterprise، Edu و همچنین API، این تنظیمات به‌طور پیش‌فرض غیرفعال است.

پروژه لیلی؛ دستورالعمل ناظران انسانی

این طرح بررسی انسانی که در درون شرکت با عنوان «پروژه لیلی» (Project Lily) شناخته می‌شود، شامل دستورالعمل‌هایی برای ناظران است تا موارد نیازمند پرچم‌گذاری و نحوه امتیازدهی به پاسخ‌های ربات را مشخص کنند. تلاش برای انسانی‌سازی بیش از حد یا لحن شخصی باید به عنوان «ناهم‌راستا» امتیازدهی شود و استفاده بیش از حد از ایموجی‌ها — که اغلب نشانه‌ای از خروجی‌های هوش مصنوعی است — نیز می‌تواند امتیاز پایین‌تری به همراه داشته باشد. ناظران پروژه لیلی موظف به راستی‌آزمایی پاسخ‌های ChatGPT نیستند، بلکه باید «مشکلات صحت یا درستی» را علامت‌گذاری کرده و به پاسخ‌های مربوط به موضوعات «حساس» مانند مسائل پزشکی، حقوقی یا مالی امتیاز کمتری بدهند.

اوپن‌آی به پرسش‌های ایمیلی رسانه «یاهو تک» درباره مطلع ساختن صریح کاربران از کاربرد پرامپت‌ها در آموزش مدل پاسخ مستقیمی نداد. در عوض، سخنگوی این شرکت فهرستی شامل این ادعاها را ارسال کرد: این شرکت مدعی است که به کاربران روشن می‌کند بازخوردهای انسانی به بهبود کیفیت پاسخ‌های ChatGPT کمک می‌کند و ارزیابان متخصص ممکن است مکالمات کاربران را بررسی و ارزیابی کنند. این شرکت همچنین پیوندی به صفحه‌ای با عنوان «استفاده از داده‌ها برای خدمات مصرف‌کننده» ارائه داد. بر اساس گزارش ۴۰۴ مدیا، اوپن‌آی این صفحه را پس از تماس این رسانه برای دریافت توضیحات، به‌روزرسانی کرده است.

رویکرد سایر شرکت‌های هوش مصنوعی

سایر شرکت‌های هوش مصنوعی نیز از انسان‌ها برای بررسی مکالمات چت‌بات استفاده می‌کنند، اما شفافیت درباره زمان و دلیل به‌کارگیری آن‌ها گاه مبهم است. صفحه حریم خصوصی هوش مصنوعی جمینای گوگل می‌گوید «زیرمجموعه‌ای از چت‌ها توسط ناظران انسانی بررسی می‌شود تا به بهبود خدمات گوگل کمک کند». آنتروپیک نیز در صفحه پشتیبانی چت‌بات کلود (Claude) اعلام کرده که «هنگامی که اجازه می‌دهید از چت‌ها برای بهبود کلود استفاده کنیم، لایه‌های حفاظتی متعددی را برای حریم خصوصی شما پیاده‌سازی می‌کنیم»، از جمله جدا کردن چت از داده‌های شخصی.

اگرچه ناشناس‌سازی حساب‌های کاربری راهی برای کاهش نگرانی‌های حریم خصوصی است، کاربران چت‌بات‌های هوش مصنوعی باید به خاطر داشته باشند که جزئیات شخصی به اشتراک‌گزارده‌شده ممکن است توسط انسان‌ها در این شرکت‌ها خوانده شود. این موضوع با توجه به تمایل روزافزون کاربران به اشتراک‌گذاری اطلاعات دقیق‌تر درباره خود برای دریافت پاسخ‌های شخصی‌سازی‌شده در زمینه‌های مختلف (از جمله مباحث پزشکی و سلامت)، اهمیت دوچندانی پیدا می‌کند.