چرا هوش مصنوعی ممکن است هرگز به سطح هوش انسانی نرسد؟

به گزارش هفت صبح او استدلال می‌کند که این محدودیت باعث می‌شود هوش مصنوعی پیشرفته نه تنها با انسان‌ها تفاوت بنیادین داشته باشد، بلکه هم‌سو کردن آن با اهداف انسانی نیز بسیار دشوار شود.

تحلیل جدیدی استدلال می‌کند که هوش مصنوعی ممکن است هرگز واقعاً مانند انسان‌ها فکر نکند، چرا که مهم‌ترین بخش‌های هوش انسانی را نمی‌توان در ماشین‌ها برنامه‌نویسی کرد.

این دانشمند علوم کامپیوتر استدلال می‌کند که ایده‌ی مطرح شده توسط «آلن تورینگ» — که به طور گسترده پدر علوم نظری کامپیوتر شناخته می‌شود — تحقیقات هوش مصنوعی را در ۷۵ سال گذشته به مسیر اشتباهی کشانده است.

«پیتر جی. دنینگ» در تحلیل جدید خود با عنوان «اشتباه تورینگ: فرار از یوغ ماشین‌های غیرهوشمند»، به بررسی ایده‌هایی می‌پردازد که تورینگ در سال ۱۹۵۰ مطرح کرد. در آن زمان، بسیاری از دانشمندان معتقد بودند که هوش انسانی می‌تواند مستقل از بدن وجود داشته باشد و بنابراین ممکن است بتوان آن را به صورت نرم‌افزاری که روی یک کامپیوتر دیجیتال اجرا می‌شود، بازسازی کرد.

دنینگ همچنین این ایده را که هوش ماشینی می‌تواند از طریق «بازی تقلید» (که اکنون به نام «تست تورینگ» شناخته می‌شود) اثبات شود، زیر سوال می‌برد.

دنینگ می‌نویسد: «این دو ادعا، بخش بزرگی از تحقیق و توسعه هوش مصنوعی را شکل داده‌اند. پیش‌فرض من این است که تسلیم شدن ما در برابر این ادعاها، منجر به وضعیت آشفته‌ای شده است که امروز در حوزه هوش مصنوعی با آن مواجهیم.»

به گفته دنینگ، سیستم‌های هوش مصنوعی که اکنون در حال توسعه هستند، بعید است که به هوش در سطح انسانی (که با نام هوش مصنوعی عمومی یا AGI شناخته می‌شود) دست یابند. در عوض، او هشدار می‌دهد که این سیستم‌ها ممکن است بدون اینکه هرگز مانند انسان‌ها فکر کنند، خطرات جدی ایجاد کنند.

چرا دانش ضمنی اهمیت دارد؟

هسته اصلی استدلال دنینگ، مفهوم «دانش ضمنی» است. این اصطلاح به حجم عظیمی از درک انسانی اشاره دارد که افراد در اختیار دارند، اما نمی‌توانند آن را به طور کامل در قالب کلمات بیان کنند یا به نمادهایی تبدیل کنند که ماشین بتواند پردازش کند.

دنینگ پنج شکل گسترده از دانش ضمنی را توصیف می‌کند که به گفته او «از چنگ یادگیری ماشین می‌گریزند». این موارد عبارتند از: عقل سلیم، تعاملات روزمره با افراد و محیط، احساسات و ادراکات، مهارت‌های عملی، و زمینه فرهنگی و تاریخی مشترک در جوامع.

محققان دهه‌ها تلاش کرده‌اند تا عقل سلیم را به شکلی ثبت کنند که کامپیوترها بتوانند از آن استفاده کنند. از دهه ۱۹۸۰، پروژه جاه‌طلبانه «Cyc» به رهبری داگلاس لنات با هدف ایجاد پایگاه داده‌ای وسیع از حقایق عقل سلیم آغاز شد. پس از ۴۰ سال کار، این پروژه شامل ۲۵ میلیون مدخل بود.

دنینگ خاطرنشان می‌کند: «با این حال، حتی این گنجینه هم نتوانست زمینه‌ای از عقل سلیم ایجاد کند که سیستم‌های خبره را آن‌قدر هوشمند کند که بتوانند در حد یک متخصص عمل کنند. پروژه Cyc تأیید کرد که بخش زیادی از دانشی که افراد را به متخصص تبدیل می‌کند، قابل بیان به صورت گزاره‌های منطقی نیست.»

«دانستن چیستی» با «دانستن چگونگی» متفاوت است

دنینگ استدلال می‌کند که مهارت‌های عملی مانع بزرگ دیگری هستند.

او توضیح می‌دهد: «مهارت‌های عملکردی ما در هزاران حوزه، قابل انتقال به ماشین‌ها نیستند. در حالی که توصیف نتایجِ مهارتی (“دانستن چیستی”) اغلب می‌تواند به صورت بیت‌ها نمایش داده شده و در ماشین ذخیره شود، ما نمی‌دانیم چگونه دانش تجسم‌یافته برای اجرای ماهرانه (“دانستن چگونگی”) را کدگذاری کنیم.»

موسیقی مثال واضحی از این تفاوت است. دنینگ می‌گوید: «یک نوازنده ویولن چیره‌دست می‌تواند موسیقی زیبایی بنوازد، اما نمی‌تواند به یک شاگرد توصیف کند که چگونه آن را تولید کند.»

«حتی اگر رباتی بتواند انسان‌های ماهر را مشاهده و تقلید کند، چون بدن بیولوژیکی ندارد، نمی‌تواند درک کند که نوازنده هنگام اجرای موسیقی زیبا چه حسی دارد، یا شنونده هنگام شنیدن آن چه احساسی پیدا می‌کند.»

شهود، احساسات درونی، خلاقیت خودجوش و تخیل، اشکال دیگری از دانش ضمنی هستند که در برابر تبدیل شدن به دستورالعمل‌های کامپیوتری مقاومت می‌کنند.

مشکل نمایش (The Representation Problem)

دنینگ این مانع اصلی را «مشکل نمایش» می‌نامد.

کامپیوترها تنها زمانی می‌توانند محاسبات را انجام دهند که داده‌ها و دستورالعمل‌ها به اشکال فیزیکی کدگذاری شوند که برای آن‌ها قابل تشخیص و پردازش باشد. اما دانش ضمنی به راحتی قابل تبدیل به چنین قالبی نیست.

دنینگ می‌گوید: «پشت هر کلمه، چاه عمیقی از دانش ضمنی وجود دارد که به آن معنا می‌بخشد. کلمات فقط نمایش‌های نمادین از معانی هستند، نه خودِ معانی. مدل‌های زبانی بزرگ که امروزه به طور گسترده استفاده می‌شوند، مانند ChatGPT، کلود (Claude) و جمینای (Gemini)، فقط کلمات را دستکاری می‌کنند؛ آن‌ها نمی‌توانند معنای آنچه را می‌گویند، بدانند یا درک کنند.»

این موضوع شکافی ایجاد می‌کند که دنینگ آن را غیرقابل‌عبور می‌بیند. از آنجا که دانشمندان هنوز به طور کامل درک نمی‌کنند که دانش ضمنی چگونه در درون انسان عمل می‌کند، نمی‌توانند تعیین کنند که چگونه آن را به یک ماشین منتقل کنند.

دنینگ اذعان می‌کند: «اینکه ما چگونه میزبان دانش ضمنی هستیم، تا حد زیادی یک راز است. تنها چیزی که می‌دانیم این است که این دانش “تجسم‌یافته” (Embodied) است. ما هیچ ایده‌ای نداریم که چه چیزی را باید در بدن خود مشاهده و اندازه‌گیری کنیم تا آن را آشکار کنیم.»

چرا زمینه (Context) معنا را تغییر می‌دهد؟

دنینگ همچنین بر اهمیت «زمینه» یا شرایط پیرامونی تأکید می‌کند که به کلمات و اعمال انسانی معنا و هدف می‌بخشد.

یک جمله بسته به اینکه گوینده صادق، طعنه‌آمیز، عصبانی، بازیگوش یا در حال شوخی باشد، می‌تواند معانی بسیار متفاوتی داشته باشد. زمینه همچنین به افراد کمک می‌کند تا تصمیم بگیرند چه زمانی از شوخ‌طبعی استفاده کنند، چه زمانی ملاحظه‌گر باشند و چگونه آنچه را که کسی به زبان نمی‌آورد، تفسیر کنند.

دنینگ توضیح می‌دهد: «وقتی بررسی می‌کنید که فرضِ زمینه فعلی از کجا آمده است، درمی‌یابید که به گفتگوهای قبلی از زمینه‌های قبلی متکی است. هر کدام از آن‌ها نیز به نوبه خود به گفتگوها و زمینه‌های پیشین‌تر متکی هستند. این الگو بی‌پایان و فراکتالی است.»

فرهنگ ممکن است فراتر از مدل‌های زبانی بزرگ باشد

فرهنگ نیز چالش مشابهی را ایجاد می‌کند. فرهنگ شامل ارزش‌ها، هنجارهای اجتماعی، قضاوت‌ها، تاریخ‌ها، جوامع، حالات روحی و روابطی است که شامل قدرت یا مراقبت می‌شود.

دنینگ توضیح می‌دهد: «گفتگوهای انسانی با مفروضات زمینه‌ای آمیخته شده‌اند که به کلمات مورد استفاده، معنا و اهمیت می‌بخشند.»

او استدلال می‌کند که بزرگ‌تر کردن مدل‌های زبانی بزرگ (LLMs)، این مشکل را حل نخواهد کرد.

«مقیاس‌پذیری مدل‌های زبانی با شبکه‌های عصبی بزرگ‌تر، آن‌ها را قادر نخواهد ساخت که دانش انسانیِ تجسم‌یافته‌ای را که ما “فرهنگ” می‌نامیم، به دست آورند. مدل‌های زبانی بزرگ به هدف تست تورینگ دست نخواهند یافت: یعنی نشان دادن تفکر ماشینی که از تفکر انسانی قابل تشخیص نباشد.»

دنینگ در نهایت نوعی «عدم درک متقابل» را بین انسان و ماشین توصیف می‌کند. شبکه‌های عصبی مصنوعی ممکن است نوع خاصی از دانش ضمنی ماشینی را برای خود توسعه دهند، اما انسان‌ها ممکن است قادر به درک آن نباشند.

او می‌نویسد: «ماشین‌ها نمی‌توانند دانش ضمنی ما را بخوانند و ما نمی‌توانیم دانش ضمنی آن‌ها را درک کنیم. ما همچون بیگانگانی در دو سوی یک شکاف غیرقابل‌عبور هستیم.»

خطر امنیت هوش مصنوعی

این شکاف می‌تواند پیامدهای بزرگی برای ایمنی هوش مصنوعی داشته باشد. دنینگ هشدار می‌دهد که اگر ماشین‌ها نتوانند زمینه ناگفته‌ی پشت دستورالعمل‌های انسانی را درک کنند، هم‌سو کردن قابل‌اطمینان رفتار آن‌ها با اهداف انسانی ممکن است غیرممکن باشد.

او توضیح می‌دهد: «از طریق اتوماسیونِ هوش مصنوعی، شبکه‌های عاملیِ ماشین‌ها احتمالاً هوش ماشینی خاص خود را توسعه خواهند داد که اگرچه به سطح هوش عمومی انسانی نمی‌رسد، اما همچنان برای ایجاد مشکلات جدی برای انسان‌ها کاملاً توانمند است. این تهدید، بزرگ‌تر از تسلط ماشین‌های فوق‌هوشمند بر انسان‌هاست.»

از نظر دنینگ، خطر فوری‌تر، یک ماشین فوق‌هوشمند نیست که از بشریت پیشی بگیرد؛ بلکه شبکه‌ای از سیستم‌های کمتر هوشمند است که به شیوه‌هایی قدرتمند، غیرقابل‌پیش‌بینی و بالقوه مضر عمل می‌کنند.

«هوش ماشینی دغدغه‌های متفاوتی از ما دارد و به نظر نمی‌رسد به ما اهمیتی بدهد. روش‌های تفکر و حل مسئله آن برای ما بیگانه به نظر می‌رسد. ما هنوز نمی‌دانیم چگونه با خیال راحت با این ماشین‌ها زندگی کنیم.»

«عقب‌نشینی از یک تکینگی اتوماسیون هوش مصنوعی، خواسته‌های زیادی از ما خواهد داشت. ما باید با پذیرش این واقعیت شروع کنیم که فرهنگ آشنای ما با ظهور ماشین‌های هوشمند در جامعه‌مان در حال محو شدن است و ما نمی‌دانیم چه چیزی در پیش است. ما باید از فکر کردن مانند ماشین‌ها یا بندگی در برابر آن‌ها سر باز بزنیم. ما باید از تسلیم شدن در برابر یوغی که توسط ماشین‌های کم‌هوش تحمیل می‌شود، خودداری کنیم. مهم‌تر از همه، باید انسانیت خود را دوباره تأیید کنیم، بار دیگر اعلام کنیم که چه چیزی ما را از ماشین‌ها متمایز می‌کند و آن تفاوت‌ها را گرامی بداریم.»