چرا الگوریتم‌های رسانه‌های اجتماعی، پست‌هایی را برایتان می‌فرستند که دوست ندارید؟

به گزارش هفت صبح یافته‌های پژوهش جدیدی که در مجموعه مقالات آکادمی ملی علوم (PNAS) منتشر شده، نشان می‌دهد الگوریتم‌هایی که فید شما را تغذیه می‌کنند، ممکن است محتوایی را در اولویت قرار دهند که در تضاد با ارزش‌های شماست. دلیل این پدیده آن است که الگوریتم‌ها وزن بسیار زیادی برای پست‌هایی قائل می‌شوند که به آن‌ها پاسخ (ریپلای) می‌دهید؛ و کاربران شبکه‌های اجتماعی نیز معمولاً بیشتر از محتوایی اظهارنظر می‌کنند که با آن مشکل دارند تا محتوایی که با آن موافق‌اند.

نکته قابل توجه اینکه در مطالعه‌ای که روی شبکه اجتماعی X انجام شد، مشخص گردید الگوریتم فید این پلتفرم، محتوایی را برای هر دو گروه کاربران دموکرات و جمهوری‌خواه ارتقا می‌دهد که با ارزش‌هایشان در تناقض است؛ اما این روند برای کاربران دموکرات بسیار گسترده‌تر است.

محتوا چگونه وارد فید شما می‌شود؟

پلتفرم‌های رسانه‌های اجتماعی از الگوریتم‌های قدرتمندی استفاده می‌کنند که از میان مجموعه عظیمی از محتوای ممکن، پست‌هایی را برای نمایش در فید شما انتخاب می‌کنند.

برای مثال، در شبکه ایکس، پست‌ها در قالب صفحات «برای شما» (For You) روی صفحه شما ظاهر می‌شوند. الگوریتم‌ها احتمال تعامل شما با محتوا را پیش‌بینی می‌کنند؛ یعنی اینکه آیا روی آیکون «لایک» کلیک می‌کنید یا نظری اضافه می‌کنید. سپس از دقت همین پیش‌بینی‌ها برای شخصی‌سازی محتوایی که دفعه بعد به شما نمایش می‌دهند، استفاده می‌کنند. پلتفرم‌ها از طریق همین تعامل‌ها، گرایش‌های کاربران خود را یاد می‌گیرند.

اما آیا پست‌هایی که دریافت می‌کنید، واقعاً بازتاب‌دهنده ارزش‌های شما هستند؟ برخی کاربران بیش از هر چیز به حفظ سنت‌ها یا تأمین امنیت جامعه اهمیت می‌دهند. برخی دیگر بیشتر به آزادی بیان یا حفاظت از طبیعت توجه دارند. بیشتر مردم نیز به همه این موضوعات — هرچند با درجه‌های متفاوت — اهمیت می‌دهند. یک فید هماهنگ با ارزش‌های هر فرد، باید همین اولویت‌های متفاوت را منعکس کند.

روان‌شناسان از پرسشنامه‌های معتبر و شناخته‌شده‌ای برای سنجش ارزش‌های افراد استفاده می‌کنند. تیم تحقیقاتی برای اندازه‌گیری ارزش‌های موجود در پست‌هایی که پلتفرم برای هر کاربر انتخاب می‌کند، ابزار سنجشی ساخت که بر پایه طبقه‌بندی‌های استاندارد روان‌شناختی از ارزش‌های انسانی طراحی شده بود. سپس این ابزار را روی فید ۷۱۵ کاربر مقیم آمریکا در شبکه ایکس اعمال کردند.

نتیجه این بود که الگوریتم فید ایکس بیشتر از همه، پست‌های مرتبط با حفظ سنت‌ها، پیروی از قوانین و تأمین امنیت جامعه را تقویت (Amplify) می‌کند؛ و بیشترین احتمال حذف و تنزل (Demote) نیز مربوط به پست‌هایی است که درباره مراقبت از دیگران، توجه به انسان‌های دور، قابل اعتماد بودن و حفاظت از طبیعت هستند.

هنگامی که این ارزش‌ها با ارزش‌هایی که خود کاربران در پست‌هایشان ابراز کرده بودند مقایسه شد، مشخص گردید الگوریتم بیشتر محتوایی را ارتقا می‌دهد که با ارزش‌های کاربران در تعارض است تا محتوایی که با آن‌ها هم‌سو است.

چرا فید شما ممکن است با ارزش‌هایتان در تضاد باشد؟

دلیل این روند چیست؟ پژوهشگران ابتدا بررسی کردند که آیا کاربران از ابتدا حساب‌هایی را دنبال می‌کنند که با ارزش‌هایشان متفاوت است؛ اما مشخص شد بیشتر حساب‌هایی که افراد دنبال می‌کنند، در واقع با ارزش‌هایشان هم‌سو هستند.

سپس بررسی کردند که آیا افراد فقط با پست‌هایی تعامل می‌کنند که با آن‌ها مخالف‌اند — که در آن صورت الگوریتم صرفاً محتوای مشابه بیشتری سرو می‌کرد. اما یافته‌ها نشان داد که کاربران با تعداد زیادی از پست‌هایی که بازتاب‌دهنده ارزش‌های مورد قبولشان است نیز تعامل می‌کنند.

مشکل اصلی به ماهیت تعامل‌ها برمی‌گردد. افراد معمولاً در درجه اول با «لایک» کردن به محتوا واکنش نشان می‌دهند؛ یعنی کلیک روی دکمه «قلب» در ایکس یا دکمه «انگشت شست» در فیسبوک. اما کمتر پیش می‌آید که کسی پاسخ (ریپلای) بنویسد؛ و جالب اینجاست که وقتی کاربران پاسخ می‌نویسند، اغلب به پست‌هایی پاسخ می‌دهند که با ارزش‌هایشان در تضاد است.

اینجا همان مدرک قطعی است: الگوریتم ایکس این پاسخ‌های نادر را سیگنالی بسیار مهم‌تر از لایک‌های متعدد تلقی می‌کند. به بیان ساده، الگوریتم بیش از همه از پاسخ‌ها یاد می‌گیرد. در نتیجه، الگوریتم تمایل دارد پست‌های «برای شما» را برای کاربر ارسال کند که بازتاب‌دهنده ارزش‌های پست‌هایی است که کاربر روی آن‌ها کامنت گذاشته — و این پست‌ها معمولاً با ارزش‌های خود کاربر در تضاد هستند.

پس راه‌حل چیست؟

در پژوهشی دیگر، تیم تحقیقاتی به راهی برای هم‌سو کردن بهتر فیدها با ارزش‌های کاربران دست یافته است. آن‌ها روشی طراحی کردند که به طراحان پلتفرم امکان می‌دهد از کاربران بپرسند به چه چیزهایی اهمیت می‌دهند و سپس فید آن‌ها را بر همین اساس مرتب کنند. یافته‌ها نشان داد کاربران در تشخیص اینکه فیدهای نمونه ارسال‌شده با ارزش‌هایشان هم‌سو هستند یا نه، عملکرد بسیار خوبی دارند.

هم‌سو کردن فیدها با ارزش‌های کاربران ممکن است راهی برای خروج از حباب‌های اطلاعاتی (Echo Chambers) بگشاید؛ راهی که قرار گرفتن مستقیم و بدون واسطه در معرض دیدگاه مخالف، چنین قابلیتی ندارد.

پژوهش‌های اخیر این تیم نشان داده است که الگوریتم‌های بهینه‌سازی‌شده برای تعامل — که عملاً دیدگاه مخالف را به دست کاربر می‌دهند تا خودش تکلیفش را روشن کند — ممکن است به جای کاهش، باعث افزایش قطبی‌سازی شوند.

نمایش محتوای «پل‌زن» (Bridging Content) که از خطوط سیاسی عبور می‌کند و هم‌زمان با ارزش‌های کاربر نیز سخن می‌گوید، می‌تواند مسیری امیدوارکننده برای تقویت هم استقلال کاربر و هم گفت‌وگوی سازنده باشد.

به باور پژوهشگران، در حالت ایده‌آل، کاربران یک پلتفرم اجتماعی باید سهم بیشتری در تعیین نوع اطلاعاتی که به آن‌ها نمایش داده می‌شود داشته باشند. اگر طراحان پلتفرم‌ها، عموم مردم و سیاست‌گذاران بتوانند ابزارهای جدیدی برای تحقق این هدف بسازند، شاید پلتفرم‌ها بتوانند بهتر از ارزش‌ها و اقداماتی که برای مردم مهم است، حمایت کنند.