افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی؛ دلیل باز نگه داشتن این حوزه چیست؟

به گزارش هفت صبح مدل‌های open-weight که به‌صورت رایگان توزیع می‌شوند و کنترل کمی بر نحوه استفاده از آن‌ها وجود دارد، به‌راحتی قابل مهار نیستند و همین موضوع باعث شده برخی آزمایشگاه‌ها آن‌ها را تهدیدی جدی بدانند.

اما در کنفرانس Ai4 که هفته گذشته در لاس‌وگاس برگزار شد، سه نفر از معتبرترین پژوهشگران هوش مصنوعی جهان — جفری هینتون، برنده نوبل، فی‌فی لی، مدیرعامل و هم‌بنیان‌گذار World Labs، و اندرو ان‌جی، هم‌بنیان‌گذار Coursera — درباره این موضوع موضع گرفتند. هرچند در برخی روش‌ها با هم اختلاف نظر داشتند، اما هر سه با قدرت از باز ماندن مسیر هوش مصنوعی دفاع کردند.

برای هر سه سخنران، نگرانی اصلی این بود که مبادا چند شرکت بزرگ هوش مصنوعی، مسیر پیشرفت این فناوری را در انحصار خود بگیرند. وقتی چند شرکت کنترل دسترسی به یک فناوری را در دست داشته باشند — همان‌طور که اپل و گوگل در سیستم‌عامل‌های موبایل دارند — نوآوری ممکن است کند شود و شرکت‌های صاحب پلتفرم بتوانند تعیین کنند چه چیزهایی روی آن ساخته شود.

اندرو ان‌جی گفت که نگران شکل‌گیری همین الگو در حوزه هوش مصنوعی است. او گفت:

«من نمی‌خواهم در این حوزه دروازه‌بان وجود داشته باشد. این موضوع دسترسی همه ما به هوش مصنوعی را محدود می‌کند.»

او توضیح داد که شرکت‌ها انگیزه دارند مزیت رقابتی خود را حفظ کنند، از جمله با تأثیرگذاری بر قوانینی که این صنعت را تنظیم می‌کنند. چنین وضعی ممکن است به جایی برسد که فقط بزرگ‌ترین و ثروتمندترین شرکت‌ها بتوانند پیشرفته‌ترین سیستم‌های هوش مصنوعی را بسازند.

راه‌حل پیشنهادی ان‌جی این بود که چندین ارائه‌دهنده مختلف وجود داشته باشند و مدل‌ها و شرکت‌ها با هم رقابت کنند، نه اینکه میدان در اختیار چند بازیگر محدود قرار بگیرد. او گفت:

«اگر بخواهم فقط یک نسخه بدهم، آن این است که از باز بودن حمایت کنیم، چون هوش مصنوعی فناوری شگفت‌انگیزی است و من می‌خواهم در دست همه باشد.»

اما همه با این نظر موافق نبودند که مدل‌های open-weight لزوماً به حفظ این وضعیت کمک می‌کنند. هینتون، به‌ویژه، بین نرم‌افزار متن‌باز و مدل‌های open-weight تفاوت قائل شد. در نرم‌افزار متن‌باز، کد اصلی برای بررسی و تغییر در اختیار همه قرار می‌گیرد، اما در مدل‌های open-weight، فقط وزن‌ها و پارامترهای مدل آموزش‌دیده منتشر می‌شوند.

هینتون گفت:

«متن‌باز عالی است. شما کد را به مردم نشان می‌دهید و افراد زیادی به خطوط کد نگاه می‌کنند و می‌گویند: “اوه، اینجا یک باگ هست.”

اما open weights یعنی یک مدل بزرگ را آموزش بدهی و بعد وزن‌های آن را در اختیار مردم بگذاری. این خیلی فرق دارد.»

او افزود که در گذشته با open-weightها مخالف بوده، چون این کار باعث می‌شود افراد بتوانند مدل‌های پایه‌ای بسیار گران‌قیمت را با هزینه‌ای خیلی کمتر، برای انجام کارهای مخرب مثل حملات سایبری دوباره آموزش دهند.

با این حال، هینتون پذیرفت که مدل‌های open-weight دیگر به بخشی دائمی از دنیای هوش مصنوعی تبدیل شده‌اند. او گفت:

«فکر می‌کنم آن نبرد را باخته‌ایم. حالا مدل‌های open-weight وجود دارند و مانع اصلی دسترسی افراد به این مدل‌های بزرگ — یعنی هزینه آموزش آن‌ها — از بین رفته است. دیگر دیر شده است.»

اما پذیرفتن واقعیت به معنای نادیده گرفتن خطرها نبود. موضع هینتون روشن بود: هوش مصنوعی به پیشرفت خود ادامه خواهد داد و او معتقد است این موضوع در مجموع چیز خوبی است. او گفت این فناوری بهره‌وری را افزایش می‌دهد و آموزش و سلامت را بهبود می‌بخشد. هینتون افزود:

«نگرانی درباره اثرات منفی احتمالی هوش مصنوعی و کارهایی که موجودات هوشمندتر از ما ممکن است انجام دهند، به‌نظرم نگرانی بی‌جایی نیست. من فکر نمی‌کنم منصفانه باشد که هر کسی را که چنین فکری می‌کند، ترس‌افکن بنامیم.»

ان‌جی دیدگاه متفاوتی داشت. به‌گفته او، پرسش اصلی این نیست که آیا مدل‌های باز خطرناک هستند یا نه، بلکه این است که چه کسی دسترسی را کنترل می‌کند و چه کسی بازار را می‌برد. هر کسی که مدل ارزان‌تری بسازد، مزیت خواهد داشت. او هشدار داد اگر مدل‌های open-weight چین در سراسر آسیا، آفریقا یا جهان در حال توسعه به‌طور گسترده پذیرفته شوند، می‌توانند بر نحوه مواجهه میلیاردها نفر با مفاهیمی مانند دموکراسی، آزادی و حقوق بشر تأثیر بگذارند.

او گفت:

«یکی از چیزهایی که امیدوارم رخ دهد، این است که رقابت‌پذیری آمریکا و هوش مصنوعی متن‌باز را تقویت کنیم. هوش مصنوعی در واقع منبعی عظیم برای قدرت نرم است. مثلاً می‌توان تأثیر موفقیت مدل‌های چین در آفریقا را دید.

اما نگرانی من این است که به‌خاطر لابی‌گری در آمریکا و ترساندن افکار عمومی، توسعه هوش مصنوعی متن‌باز در آمریکا در رقابت با مدل‌های open-weight چین دارد عقب می‌افتد. و نگرانی من این است که اگر چین راهی اساساً کم‌هزینه‌تر برای ساخت هوش مصنوعی پیدا کند، آن‌وقت چیزهایی که مقرون‌به‌صرفه‌تر هستند، در پذیرش تجاری برتری ذاتی خواهند داشت.»

فی‌فی لی با این چارچوب مخالفت کرد. او گفت:

«خیلی خطرناک است که این موضوع را به یک دوگانه‌ی کامل بین باز بودن کامل و بسته بودن کامل تبدیل کنیم. در سیستم‌های نرم‌افزاری پیچیده و همین‌طور در سیستم‌های علمی، ماجرا بسیار ظریف‌تر از این حرف‌هاست.»

او از فیزیک هسته‌ای مثال زد: مقاله‌های علمی به‌صورت آزاد منتشر می‌شوند، اما اورانیوم تحت کنترل و مقررات شدید است و کارهای آزمایشگاهی هم جایی میان این دو قرار می‌گیرند. به گفته او، نتیجه این است که باز بودن لزوماً نباید انتخابی صفر و یکی باشد. لایه‌های مختلف یک اکوسیستم می‌توانند درجات متفاوتی از باز بودن داشته باشند.

او همچنین به همکاری‌های میان نهادهای دولتی و خصوصی، مانند پروژه ژنوم انسان، اشاره کرد. به گفته او، دانش حاصل از آن پروژه به یک زیرساخت تبدیل شد که دیگران توانستند بر پایه آن کار کنند؛ به‌طوری که شرکت‌های داروسازی سود بردند، پژوهشگران پیشرفت کردند و جامعه نیز نفع برد.

لی گفت:

«فکر می‌کنم باید از [هوش مصنوعی] به‌عنوان نوعی زیرساخت استفاده کنیم. ما به درجاتی از باز بودن نیاز داریم؛ هم در کشف علمی، هم در آموزش، هم در همکاری جهانی، و هم در مدل‌های کسب‌وکار سودآور برای کارآفرینان. اما در عین حال، باید سیستم‌های منبع‌بسته را هم بپذیریم. این بحث، به‌ویژه در سطحی که می‌گوید “فقط یکی را می‌توان تحمل کرد”، یک بحث غلط است. ما به ظرافت و نگاه دقیق‌تری نیاز داریم.»

با این حال، همه موافق بودند که برای هدایت درست هوش مصنوعی، نوعی مقررات‌گذاری لازم است. هینتون گفت:

«آنچه ما می‌خواهیم این است که هوش مصنوعی را در مسیری توسعه دهیم که به مردم کمک کند، و مقررات به ما در این مسیر کمک خواهد کرد. نمی‌شود تصمیم‌گیری درباره اینکه هوش مصنوعی چگونه ساخته شود را به افرادی مثل ایلان ماسک و مارک زاکربرگ سپرد.»