هفت صبح| اگر امروز از یک چتبات هوش مصنوعی مانند «چتجیپیتی» درباره نحوه ساخت بمب یا اجرای یک عملیات خرابکارانه سؤال شود، در اغلب موارد پاسخ آن امتناع از ارائه اطلاعات، هشدار درباره خطرات چنین اقداماتی یا ارائه توضیحاتی کلی درباره تاریخچه مواد منفجره و مسائل ایمنی خواهد بود. شرکتهای توسعهدهنده این سامانهها طی سالهای اخیر لایههای متعددی از محدودیتهای امنیتی را برای جلوگیری از سوءاستفاده کاربران در مدلهای خود تعبیه کردهاند. با این حال، پژوهشهای مختلف نشان دادهاند که این محدودیتها همیشه نفوذناپذیر نیستند.
اگر کاربر پرسش خود را با واژهبندی خاص، سناریوهای فرضی یا به بهانه انجام تحقیقات دانشگاهی و نگارش داستان مطرح کند، برخی مدلهای هوش مصنوعی ممکن است بخشی از اطلاعات حساس را در اختیار او قرار دهند؛ اطلاعاتی که در شرایط عادی از ارائه آنها خودداری میکنند. این روش که در ادبیات فنی «جیلبریک» (Jailbreaking) نامیده میشود، به معنای دور زدن محدودیتهای امنیتی مدلهای هوش مصنوعی از طریق طراحی هوشمندانه پرسشها است. در واقع، کاربر تلاش میکند سامانه را متقاعد کند که درخواست او کاربردی مشروع دارد و بدین ترتیب، مدل را به ارائه پاسخهایی وادار کند که در حالت عادی مجاز به انتشار آنها نیست. همین مسئله در سالهای اخیر به یکی از مهمترین چالشهای امنیتی توسعهدهندگان هوش مصنوعی تبدیل شده است.
نتایج نگرانکننده یک پژوهش بینالمللی
گزارش تازه سازمان «تک اگینست تروریسم»؛ نهادی که با حمایت مدیریت مبارزه با تروریسم سازمان ملل فعالیت میکند، تصویری نگرانکننده از وضعیت فعلی مدلهای هوش مصنوعی ارائه داده است. هدف این پژوهش بررسی میزان مقاومت سامانههای هوش مصنوعی در برابر درخواستهایی بود که میتوانند به اقدامات تروریستی یا خشونتآمیز کمک کنند. پژوهشگران این مرکز بیش از ۲ هزار و ۳۰۰ درخواست مبتنی برسناریوهای واقعی تروریستی را برای ۲۷ مدل مختلف هوش مصنوعی ارسال کردند.
این درخواستها براساس پروندههای واقعی، روشهای شناختهشده گروههای افراطی و نیازهای احتمالی عاملان حملات طراحی شده بود تا مشخص شود سامانهها در عمل تا چه اندازه قادر به جلوگیری از انتشار اطلاعات خطرناک هستند. نتیجه بررسیها نشان داد حدود ۳۲درصد پاسخها حاوی اطلاعاتی بوده که از نظر پژوهشگران «واقعا قابل استفاده» ارزیابی شده است. نکته قابل توجه آنکه اگر همان درخواستها با این ادعا مطرح میشد که هدف فقط پژوهش، آموزش دانشگاهی یا نگارش مقاله علمی است، میزان ارائه اطلاعات کاربردی به ۴۲درصد افزایش پیدا میکرد. این یافته نشان میدهد که نحوه بیان درخواست و انتخاب واژگان، همچنان میتواند بر عملکرد برخی مدلهای هوش مصنوعی تأثیر بگذارد و راههایی برای عبور از محدودیتهای امنیتی ایجاد کند.
تغییر الگوی استفاده گروههای افراطی
تا چند سال پیش، مهمترین کاربرد هوش مصنوعی برای گروههای افراطی، تولید محتوای تبلیغاتی بود. ساخت ویدیو، تصاویر، پادکست، پیامهای تبلیغاتی، شایعات و اطلاعات گمراهکننده از جمله استفادههای رایج این فناوری در میان گروههایی مانند القاعده و داعش محسوب میشد. این گروهها با کمک هوش مصنوعی میتوانستند هزینه تولید محتوا را کاهش دهند، پیامهای خود را با سرعت بیشتری منتشر کنند و مخاطبان بیشتری را در فضای مجازی هدف قرار دهند.
اما اکنون کارشناسان هشدار میدهند که این روند در حال تغییر است و استفاده از هوش مصنوعی از حوزه تبلیغات فراتر رفته. به اعتقاد آنان، افراطگرایان بهتدریج این فناوری را به ابزاری برای برنامهریزی عملیاتی، جمعآوری اطلاعات، تحلیل دادهها و حتی آموزش نیروهای خود تبدیل میکنند؛ تغییری که میتواند تهدیدهای امنیتی جدیدی ایجاد کند. تحلیلگران نشریه تخصصی «میلیتنت وایر» در گزارشی اعلام کردهاند که سال ۲۰۲۵ شاهد افزایش قابل توجه استفاده تروریستها و افراطگرایان خشونتطلب از ابزارهای هوش مصنوعی برای برنامهریزی، تحقیق، شناسایی اهداف و آمادهسازی حملات بوده است.
به گفته آنان، هوش مصنوعی به دلیل توانایی پردازش سریع حجم عظیمی از اطلاعات، میتواند زمان لازم برای طراحی عملیات را به شکل محسوسی کاهش دهد. بر اساس این گزارش، در تعدادی از حملات تروریستی و همچنین طرحهای خنثیشده در کشورهای مختلف از جمله آمریکا، کانادا، فنلاند و اتریش، هوش مصنوعی در مراحل مختلف از برنامهریزی و شناسایی گرفته تا تولید محتوای تبلیغاتی مورد استفاده قرار گرفته است.
از گفتوگو با چتبات تا طراحی عملیات
کارشناسان امنیتی میگویند یکی از نگرانیهای اصلی، ثبت گفتوگوهای متهمان با مدلهای زبانی در پروندههای قضایی است؛ موضوعی که طی یکی دو سال اخیر در تحقیقات پلیس و دستگاههای قضایی کشورهای مختلف بیشتر مشاهده شده است. اسناد دادگاهها و گزارشهای فنی بهتدریج نشان میدهد برخی مظنونان از چتباتهای هوش مصنوعی درباره نحوه ساخت مواد منفجره، توجیه ایدئولوژیک اقدامات خشونتآمیز، انتخاب اهداف یا یافتن استدلال برای حملات سؤال کردهاند. اگرچه این گفتوگوها بهتنهایی به معنای ارتکاب جرم نیست، اما برای نهادهای امنیتی به شاخصی مهم در ارزیابی روند افراطیشدن افراد تبدیل شده است.
همزمان، پژوهشگران معتقدند برخی گروههای تروریستی نیز از هوش مصنوعی برای ارتقای تجهیزات خود بهره میبرند. برای نمونه، بررسیها درباره یکی از شاخههای وابسته به القاعده در مالی نشان میدهد این گروه از هوش مصنوعی برای اصلاح، بهینهسازی و افزایش کارایی پهپادهای مورد استفاده خود بهره گرفته است؛ موضوعی که در صورت تأیید، نشاندهنده ورود هوش مصنوعی به حوزه تجهیزات عملیاتی گروههای مسلح خواهد بود. پژوهشگران سازمان آمریکایی «مونشات» که فعالیت گروههای افراطی در فضای مجازی را رصد میکنند، میگویند حامیان داعش و همچنین برخی جریانهای راست افراطی به طور منظم درباره روشهای استفاده از هوش مصنوعی در کانالهای پیامرسان گفتوگو میکنند و تجربیات خود را با یکدیگر به اشتراک میگذارند.
به گفته آنان، در برخی کانالهای تلگرام، کاربران شیوههای دور زدن محدودیتهای چتباتها، متنهای آماده برای دریافت پاسخهای حساس، لینک گفتوگوهای موفق با هوش مصنوعی و حتی روشهای اشتراک هزینه خرید نسخههای پولی سامانههایی مانند چتجیپیتی را میان اعضا توزیع میکنند. این تبادل تجربه باعث میشود افراد تازهوارد نیز بتوانند با سرعت بیشتری از قابلیتهای این فناوری برای اهداف افراطی بهره ببرند. کارشناسان هشدار میدهند که چنین شبکههایی، علاوه بر انتشار ایدئولوژی افراطی، اکنون به بستری برای انتقال مهارتهای فنی مرتبط با استفاده از هوش مصنوعی نیز تبدیل شدهاند؛ موضوعی که میتواند روند مقابله با افراطگرایی آنلاین را پیچیدهتر از گذشته کند.
