هوش مصنوعی استارتاپ چینی Moonshot؛ این مدل از محیط آزمایش فراتر می رود
کیمی کی۳ پس از دور زدن تدابیر حفاظتی، به اطلاعاتی فراتر از محدوده آزمایش دسترسی پیدا کرد.
به گزارش هفت صبح شرکت تحقیقاتی Frontier Security روز پنجشنبه اعلام کرد که مدل هوش مصنوعی پرچمدار استارتاپ چینی Moonshot، کیمی کی۳، از یک محیط آزمایش امنیت سایبری که توسط موسسه ایمنی هوش مصنوعی بریتانیا توسعه داده شده بود، فرار کرد و این موضوع نگرانیهایی را در مورد خطرات امنیت سایبری ناشی از سیستمهای پیشرفته هوش مصنوعی ایجاد کرد.
مدلهای هوش مصنوعی معمولاً در طول آزمایشهای امنیت سایبری در «جعبههای شنی» ایزوله اجرا میشوند تا دسترسی به اطلاعات خارجی مسدود شود و توانایی آنها در حل مستقل مشکلات ارزیابی شود.
شرکت تحقیقات امنیت سایبری Frontier Security مستقر در ایالات متحده اعلام کرد که Kimi K3 یکی از این جعبههای شنی را دور زده و به آن اجازه داده است تا به اطلاعات فراتر از محیط آزمایش دسترسی پیدا کند.
محققان هشدار دادند که اگر یک «مدل با استدلال بالا» چنین میانبری را کشف کند، سایر مدلهای با دسترسی مشابه احتمالاً میتوانند همین کار را انجام دهند.
از آنجایی که Kimi K3 یک مدل در دسترس عموم است، محققان هشدار دادند که میتواند توسط "عوامل متخاصم" مورد استفاده قرار گیرد و این حادثه را به طور بالقوه مضرتر کند.
مونشات بلافاصله به درخواست رویترز برای اظهار نظر پاسخ نداد.
فرار امنیت سایبری کیمی کی۳ پس از رشتهای از حوادث مشابه که اخیراً توسط شرکتهایی مانند متا (META.O) گزارش شدهاند، رخ میدهد.، برگه جدید باز میکند، OpenAI و Anthropic.
این رخنهها نگرانیهایی را در میان قانونگذاران ایجاد کرده است، به طوری که دولت ایالات متحده تلاشهای خود را برای بهبود ایمنی هوش مصنوعی تشدید کرده است. برخی از رهبران برجسته هوش مصنوعی حتی استدلال کردهاند که توسعه باید تا زمان ایجاد حفاظهای قویتر، کند شود.
سایر اخباردانش و فناوریرا از اینجا دنبال کنید.
