روزنامه هفت صبح، غزل امیری | هوش مصنوعی ظاهرا بهزودی تمام ابعاد زندگی ما را فرا میگیرد. اما آیا آخرالزمان هوش مصنوعی نیز در راه خواهد بود؟ چه کسی واقعا میتواند پیشبینی کند؟ این روزها، نگرانی در مورد «خطرات وجودی»، یعنی آنهایی که برای تمام نسل بشر بهعنوان یک گونه (نه برای انسانها به صورت فردی) تهدیدی جدی بهشمار میرود، به دانشمندان نظامی محدود نمیشود. جنگ هستهای، زمستان هستهای، بیماریهای دنیاگیر (چه طبیعی مانند کووید ۱۹ یا مهندسی شده)، برخورد سیارک با زمین و موارد بیشمار دیگر، میتواند بیشتر انسانها یا حتی تمامی نسل بشر را از بین ببرد.
نشریه اکونومیست در آخرین گزارش خود به این موضوع اشاره کرده که امروزه جدیدترین تهدید آخرالزمانی برای بشریت، هوش مصنوعی و پایان دنیا و نسل بشر بهدست این فناوری است. در ماه مه، گروهی از افراد برجسته در حوزه هوش مصنوعی نامه سرگشادهای را امضا کردند که در آن آمده بود: «کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند بیماریهای دنیاگیر و جنگ هستهای، یک اولویت جهانی باشد.» اما چقدر منطقی است که دراینباره نگران باشیم؟
چندی پیش گروهی از محققان از جمله ازرا کارگر، اقتصاددان از فدرال رزرو شیکاگو، و فیلیپ تتلاک، دانشمند علوم سیاسی از دانشگاه پنسیلوانیا مقالهای را منتشر کردند که سعی میکند با بررسی نظاممند دو گروه مختلف از کارشناسان، به پاسخ این پرسش دست پیدا کند. در یک سوی پژوهش، متخصصان حوزه مورد بحث یا «حیطه خاص» در جنگ هستهای، سلاحهای زیستی، هوش مصنوعی و حتی خود مبحث «انقراض» قرار داشتند و در سوی دیگر، گروهی از «اَبَرپیشبینیکنندگان حرفهای» یا پیشگویان همهمنظوره با پیشبینیهای دقیق در مورد انواع مباحث مختلف، از نتایج انتخابات گرفته تا شروع جنگهای مختلف.
محققان درمجموع ۸۹ اَبَرپیشبینیکننده، ۶۵ متخصص حوزه و ۱۵ متخصص «خطر انقراض» را انتخاب کردند. دو نوع فاجعه متفاوت برای سنجش به داوطلبان گردآمده ارائه شد. یک فاجعه بهعنوان «بلای طبیعی ناگهانی» تعریف شد که باعث کشته شدن فقط ۱۰درصد از انسانهای جهان یا حدود ۸۰۰میلیون نفر میشود. برای مقایسه، تخمین زده میشود که جنگ جهانی دوم در زمان خود باعث مرگ حدود ۳درصد از جمعیت ۲ میلیاردی جهان شد. در سوی دیگر «انقراض» به عنوان واقعهای تعریف شد که همه انسانها را با شانس استثنا قائل شدن برای حداکثر ۵۰۰۰ نفر خوششانس (یا بدشانس) از بین ببرد.
از دو گروه خواسته شد که درباره احتمال وقوع همه چیز، از رویدادهای پایانی مانند انقراض ناشی از هوش مصنوعی یا جنگ هستهای تا سؤالات کوچکتر، ازجمله اینکه چه پیشرفتهای نگرانکنندهای در تواناییهای هوش مصنوعی ممکن است رخ بدهد و بهعنوان تابلوی راهنما در مسیر یک فاجعه در آینده عمل کند، پیشبینیهایی ارائه کنند. بارزترین نتیجه مطالعه بود که متخصصان حوزه که معمولا بر گفتوگوهای عمومی درمورد خطرات وجود تسلط دارند، درمقایسه با ابرپیشبینیکنندگان آینده را بسیار تیرهتر میبینند.
متخصصان تخمین زدند که احتمال وقوع فاجعه بلای طبیعی تا سال ۲۱۰۰ حدود ۲۰ درصد و احتمال انقراض بشر حدود ۶ درصد است. اَبَرپیشبینیکنندگان برای این رویدادها، احتمالات ۹ و یک درصد را در نظر گرفتند. این شکاف گسترده، جزئیات جالبی را در خود پنهان کرده است. درهنگام تشخیص خطرات ناشی از هوش مصنوعی دو گروه بیشترین تفاوت نظر را داشتند. پیشبینیکنندگان بهطور متوسط تخمین زدند که تا پایان قرن، احتمال وقوع فاجعهای ناشی از هوش مصنوعی 2.1 درصد و احتمال انقراض ناشی از هوش مصنوعی، 0.38 درصد است. در مقابل، متخصصان حوزه هوش مصنوعی، بهترتیب احتمال ۱۲ و ۳ درصد را به این دو واقعه اختصاص دادند. وقتی نوبت به دنیاگیریها رسید، ابرپیشبینیکنندگان در مقایسه با متخصصان حوزه نسبتبه خطرات ناشی از بیماریهای طبیعی بدبین بودند.
ابرپیشبینیکنندگان در عین بدبینی نسبت به هوش مصنوعی، در مورد آن تا حدودی نامطمئن بودند. نزدیک به ۸۰ سال است که جهان با سلاحهای هستهای درگیر است. اینکه تاکنون هنوز یک جنگ هستهای تمام و کمال اتفاق نیفتاده است، دادههای ارزشمندی را شکل میدهد که میتواند در پیشبینیهای آینده درباره احتمال وقوع آن مفید واقع شود. اصطلاح هوش مصنوعی دستکم در معنای کنونی بسیار جدیدتر است.
ظهور مدلهای امروزی و قدرتمند یادگیری ماشین به سالهای اولیه دهه ۲۰۱۰ باز میگردد. این حوزه همچنان بهسرعت در حال توسعه و گسترش است؛ اتفاقی که دادههای بسیار کمتری را برای پیشبینی بر جای میگذارد. دکتر تتلاک بهطور خاص کارهای زیادی را در مورد بررسی مشکل پیشبینی آینده انجام داده است. او اولین کسی بود که «ابرپیشبینیکنندگان» را شناسایی و نامگذاری کرد؛ افرادی که به نظر میرسید به طور غیرعادی در پیشبینی آینده موفقیتآمیز عمل میکنند.
چنین افرادی دارای چندین ویژگی مشترک هستند، ویژگیهایی مانند تفکر دقیق بر اساس آمار و ارقام و آگاهی از سوگیریهای شناختی که البته ممکن است آنها را گیج و گمراه کند. ابرپیشبینیکنندگان با وجود فقدان تخصص خاص، در بسیاری از زمینههای فنی دیگر، از امور مالی گرفته تا ژئوپولتیک، عملکرد و سابقهای بهتر از متخصصان همان دارند. مطالعه پژوهشگران تلاش کرد تا ازطریق ایجاد هماندیشیهای گروهی، انگیزههای مالی برای استدلالهای بهتر و موارد دیگر، گروهها را به «اقناع متقابل» ترغیب کند. بااینحال، شاید باعث تعجب باشد که هر دو طرف قاطعانه بر نظرات خود پافشاری کردند.
یکیاز متخصصان هوش مصنوعی «درماندگی از تعمق و تبادل نظر» را بهعنوان مشکل اصلی در نظر داشت. بهعبارت دیگر، هر دو طرف بهسادگی از تمام پیشبینیهایی که از آنها خواسته شده بود، خسته شده بودند. تغییر ذهن یا آنطور که پیشبینیکنندگان «بهروزرسانی پیشفرضها» مینامند، ممکن است با شواهد جدید آسانتر باشد. درنتیجه، دکتر کارگر و تتلاک امیدوار به جمعآوری برخی شواهد هستند.
آنها از شرکتکنندگان در مطالعه خود خواستند به پرسشهایی درباره مجموعهای از «شاخصهای هشدار اولیه» پاسخ دهند؛ معیارهایی که نشان میدهند آیا جهان در مسیری به سوی سناریویی فاجعهبار قرار دارد یا خیر. بهعنوان مثال، میزان قدرت کامپیوتری که در برنامههای بزرگ آموزش هوش مصنوعی استفاده میشود، ممکن است در ردیابی پیشرفت کلی این حوزه مفید باشد. عامل دیگر، ممکن است سرنوشت نهایی معاهدات کنترل تسلیحات هستهای باشد.
