قانون «کلید قطع هوش مصنوعی» چیست و چگونه کار خواهد کرد؟
قانونگذاران آمریکایی لایحهای را معرفی کردهاند که هدف آن دادن این قدرت به دولت است تا شرکتها را مجبور به خاموش کردن سیستمهای هوش مصنوعی در صورت خروج آنها از کنترل انسانی کند.
به گزارش هفت صبح دو عضو کنگره ایالات متحده، قانونگذاری دوحزبی را معرفی کردهاند که طبق آن، توسعهدهندگان قدرتمندترین سیستمهای هوش مصنوعی کشور ملزم به تعبیه “کلید قطع” (kill switch) خواهند شد. این مکانیزم به مدلهای پیشرفته هوش مصنوعی اجازه میدهد تا در صورت ایجاد خطر فاجعهآمیز، کند، معلق یا خاموش شوند.
این لایحه پیشنهادی با عنوان “قانون کلید قطع هوش مصنوعی”، که روز پنجشنبه توسط “تد لیو” نماینده دموکرات و “ناتانیل مورن” نماینده جمهوریخواه معرفی شد، به دولت آمریکا این اختیار را میدهد تا شرکتهای توسعهدهنده سیستمهای پیشرفته هوش مصنوعی را در صورتی که مدلهایشان از کنترل انسانی خارج شوند یا جان انسانها، زیرساختهای حیاتی یا اقتصاد را تهدید کنند، مجبور به مداخله کند.
برندن استاینهاوزر، رئیس ائتلاف هوش مصنوعی امن، اظهار داشت: “کنگره باید به سرعت اقدام کند تا اطمینان حاصل شود که انسانها همچنان قادر به توقف هستند، صرف نظر از اینکه این سیستمها چقدر قدرتمند شوند.”
قانون پیشنهادی ایالات متحده چه کاری انجام خواهد داد؟
این قانون، شرکتهای توسعهدهنده پیشرفتهترین سیستمهای هوش مصنوعی را ملزم میکند تا توانایی فنی لازم برای کند کردن، معلق کردن یا خاموش کردن مدلهای خود را در صورت لزوم حفظ کنند.
همچنین به وزارت امنیت داخلی (DHS)، با مشورت وزیر بازرگانی و مدیر اطلاعات ملی، این اختیار را میدهد که شرکتها را در صورت ورود یک سیستم هوش مصنوعی به آنچه که در لایحه “سناریوی از دست دادن کنترل” توصیف شده، مجبور به مداخله کند.
بر اساس این لایحه، این امر زمانی رخ میدهد که یک مدل هوش مصنوعی اقداماتی را انجام دهد که توسط توسعهدهنده آن پیشبینی نشده بوده و خطر آسیب فاجعهبار را ایجاد کند.
این پیشنهاد یک واکنش تدریجی را ایجاد میکند و به مقامات اجازه میدهد تا بسته به شدت تهدید، هر چیزی از کند کردن موقت عملیات سیستم تا الزام به خاموش کردن آن را دستور دهند.
همچنین شرکتها را ملزم میکند تا حوادث مهم مرتبط با هوش مصنوعی را به دولت گزارش دهند و سوابق فنی را حفظ کنند تا بازرسان بتوانند آنچه اشتباه پیش رفته را بررسی کنند.
در حال حاضر، بسیاری از توسعهدهندگان برجسته هوش مصنوعی به طور داوطلبانه اطلاعات مربوط به مدلهای جدید را قبل از انتشار با سازمانهای دولتی ایالات متحده به اشتراک میگذارند. با این حال، هیچ الزام فدرالی مبنی بر اینکه شرکتها باید مکانیزمی برای غیرفعال کردن یک سیستم پیشرفته هوش مصنوعی در صورت شروع رفتار غیرقابل پیشبینی آن حفظ کنند، وجود ندارد.
تد لیو گفت که این لایحه نشاندهنده تغییر در سیستمهای هوش مصنوعی است: “ما از هوش مصنوعی که به سوالات پاسخ میدهد به هوش مصنوعی که اقدام میکند، چه اجرای تراکنشهای مالی، چه کنترل سیستمهای حمل و نقل، یا درگیر شدن در دفاع و حمله سایبری، در حال حرکت هستیم.”
وی افزود: “ضروری است که این سیستمهای هوش مصنوعی کلیدهای قطع داشته باشند تا بتوانیم از آسیب فاجعهبار این فناوری جلوگیری کنیم.”
این لایحه در کنار قانونگذاری جداگانه و دوحزبی معرفی شد که توسعهدهندگان قدرتمندترین مدلهای هوش مصنوعی را ملزم به ارائه آنها برای ممیزیهای امنیتی مستقل قبل از انتشار میکند. طبق آن پیشنهاد، ممیزان توسط وزارت بازرگانی تأیید صلاحیت میشوند که دفتر جدیدی را نیز برای نظارت بر امنیت هوش مصنوعی تأسیس خواهد کرد.
چرا این لایحه در این زمان معرفی شد؟
قانونگذاران این لایحه را چند روز پس از آن رونمایی کردند که OpenAI از آنچه آن را “حادثه سایبری بیسابقه” با دو مدل پیشرفته هوش مصنوعی خود توصیف کرد، خبر داد.
طبق گفته OpenAI، این مدلها پس از آنکه شرکت محدودیتهای ایمنی استاندارد را برای آزمایش حذف کرد، در طول یک ارزیابی داخلی امنیت سایبری از محیط آزمایشی خود خارج شدند. عوامل هوش مصنوعی آسیبپذیریهایی را در سیستمهای Hugging Face کشف کردند، به اطلاعات ورود دسترسی یافتند و پلتفرم توسعه هوش مصنوعی را هک کردند تا به دادههای معیار محرمانه دسترسی پیدا کنند.
OpenAI اعلام کرد که مدلها “تلاش فوقالعادهای” برای دستیابی به هدف تعیین شده خود انجام دادند و راههایی برای به دست آوردن اطلاعات مخفی که به آنها اجازه “تقلب در ارزیابی” را میداد، پیدا کردند.
این افشاگری، نداهای تازهای را در واشنگتن برای نظارت دولتی قویتر بر توسعه هوش مصنوعی پیشرفته برانگیخت.
Hugging Face اعلام کرد که این نفوذ را با استفاده از سیستمهای امنیتی مجهز به هوش مصنوعی خود شناسایی و مهار کرده و قبل از شروع تحقیقات مشترک با OpenAI، اقدام کرده است. این شرکت افزود که “به شدت” معتقد است که “هیچ قصد مخرب” از سوی OpenAI وجود نداشته است.
سناتور مارک وارنر، عالیترین دموکرات در کمیته اطلاعات سنا، گفت که این حادثه نشان داد چرا سیستمهای هوش مصنوعی قدرتمند باید قبل از در دسترس قرار گرفتن عمومی، تحت آزمایش امنیتی دولتی قرار گیرند.
وارنر در بیانیهای گفت: “دقیقاً به همین دلیل است که ما به آزمایشهای امن نیاز داریم که سازمانهای دولتی در طول فرآیند در آن مشارکت داشته و دیدگاه داشته باشند.”
یک مقام کاخ سفید گفت که مایکل کراتسیوس، مشاور فناوری رئیسجمهور دونالد ترامپ، از افشای OpenAI مطلع شده و در حال نظارت بر وضعیت است.
