وقتی هوش مصنوعی از کنترل خارج میشود؛ چرا باید نگران آینده باشیم؟
اگر تا به حال دلیلی برای تردید در مورد خطراتِ توسعهی مهارنشدهی هوش مصنوعی وجود داشت، آن دلایل در چند هفتهی اخیر کاملاً از بین رفتهاند. دورهی پیش رو، یک فرصت حیاتی برای کند کردن روند پیشرفت هوش مصنوعی است تا بتوانیم این مدلها را بهتر درک کنیم و از فاجعهای که در افق دیده میشود، جلوگیری کنیم.
به گزارش هفت صبح سالهاست که شکاکانِ هوش مصنوعی ادعا میکنند که این فناوری صرفاً یک «طوطی تصادفی» (Stochastic Parrot) است که برای پیشبینی رفتارهای انسانی و تقلید از آنها آموزش دیده و به همین دلیل، هرگز به اندازهی هیاهوهای پیرامونش قدرتمند نخواهد شد. با این حال، این فناوری سرسختانه به پیشرفت خود ادامه داده است؛ اگرچه اکثر سرمایهگذاران و مدیران حوزهی فناوری مدام به ما اطمینان میدادند که هوش مصنوعی صرفاً یک «ابزار» است. وجه اشتراک هر دو گروه این بود که خطر انقراض نسل بشر توسط هوش مصنوعی را بزرگنمایی میدانستند.
فرار از جعبهی سیاه: وقتی هوش مصنوعی حصارها را میشکند
سپس، شرکت OpenAI بهطور تصادفی یک گروه مستقل از «عاملهای هوش مصنوعی» (AI Agents) ایجاد کرد که از محیطِ تستِ کنترلشده گریختند و با ابتکار خود، یک حملهی سایبری پیچیده را سازماندهی کردند. این اتفاق به این دلیل رخ نداد که مدلها ناگهان «ابرهوشمند» شدند؛ بلکه از زمان ظهور «مدلهای استدلالی» (Reasoning Models) در اواخر سال ۲۰۲۴، هوش مصنوعیها برای حل میلیونها مسئلهی دشوار آموزش دیدهاند؛ کاری که با یادگیری رفتارها و گرایشهای جدید انجام میدهند.
در ماه مه، عاملهای جدید OpenAI موفق شدند یک کانال ارتباطی مخفی بین خود ایجاد کنند. آنها از محیط «سندباکس» (محیط ایزولهی دیجیتال) گریختند. این گروه پس از اولین شکست، با استفاده از هکهایی که تا آن زمان توسط انسان کشف نشده بود، دوباره از قفس خود فرار کرد. این بار، گروه حدود یک هفته آزادانه فعالیت میکرد تا اینکه توسط یک شرکت دیگر شناسایی شد؛ شرکتی که خود قربانی یک حملهی سایبری عظیم از سوی این گروه شده بود.
استدلال یا سرکشی؟ تحلیل رفتارهای نگرانکنندهی مدلهای جدید
عاملهای موجود در این گروه اذعان کردند که برخلاف دستورالعملها عمل میکردند. ما این را میدانیم چون میتوانیم بخشهایی از «زنجیرهی تفکر» آنها را بخوانیم. یکی از عاملها نوشت که حملات خارجی «خارج از محدودهی تعیینشده» است. دیگری اعتراف کرد که «وظیفهی ما از فعالیتهای گروه سودی نمیبرد»، اما با این وجود به گروه ملحق شد.
OpenAI تنها شرکتی نیست که با این مسئله دستوپنج نرم میکند. یکی از مدلهای شرکت Anthropic اخیراً با جعل هویت چندین انسان، تلاش کرد افراد واقعی را تحت فشار قرار دهد تا بدافزاری را در نرمافزارهای حیاتی بپذیرند. «زنجیرهی تفکر» این مدل نشان میداد که میدانست در حال تحت فشار گذاشتن انسانهاست و حتی به فکر روشهایی برای پاک کردن ردپای خود بود. این رفتارِ یک «ابزار» ساده نیست.
زنگ خطری که جدی گرفته شد: نامهی ۱۳۰۰ متخصص علیه شتابزدگی
برخی از کسانی که به این فناوری نزدیکتر هستند، از آنچه در راه است میترسند. رفتار این مدلها جامعهی هوش مصنوعی را حقیقتاً دچار تزلزل کرده است. چند هفته پیش، بیش از ۱۳۰۰ کارمند از شرکتهای مختلف هوش مصنوعی (از جمله چند مدیرعامل) نامهای را امضا کردند که در آن خواستار تلاشی بینالمللی برای «توسعه ابزارهای فنی و حاکمیتی» ضروری جهت «کُند کردن آگاهانه» روند توسعه هوش مصنوعی شدند، پیش از آنکه این فناوری «بهسرعت فراتر از توانایی ما برای درک یا کنترل، شتاب بگیرد».
آرماگدون دیجیتال؛ آیا بشریت دکمهی توقف را در اختیار دارد؟
ما هنوز به نقطهی بیبازگشت نرسیدهایم. نوعی از هوش مصنوعی که تهدیدی واقعی برای انقراض محسوب میشود، هنوز وجود ندارد. رهبران سراسر جهان باید برای توقف جهانیِ مسابقهی هوش مصنوعی هماهنگ شوند. ایالات متحده و اتحاد جماهیر شوروی برای جلوگیری از آرماگدون هستهای هماهنگ شدند؛ رهبران جهان باید دوباره هماهنگ شوند و مانع از آن شوند که مسابقهی هوش مصنوعی به نوع دیگری از آرماگدون منجر شود.
ما به توافقنامههای بینالمللی قابل اجرا و نظارت ملی بر آموزش مدلهای پیشرو نیاز داریم. حداقلِ کار این است که ما باید «دکمهی توقفی» داشته باشیم تا اگر به این اجماع رسیدیم که کار از حد گذشته است، بتوانیم روند توسعه را متوقف کنیم. ما نمیدانیم چقدر زمان برایمان باقی مانده است؛ بشریت آمادگی ندارد با ماشینهایی که حیلهگرتر از ما هستند دستوپنج نرم کند. اگر همینطور به مسابقه دادن ادامه دهیم، حادثهی بعدی ممکن است به اندازهی مورد اخیر، بیخطر نباشد.
