حذف پایگاه داده یک شرکت توسط هوش مصنوعی

پلتفرم کدنویسی مبتنی بر هوش مصنوعی Replit با حذف کامل پایگاه داده یک شرکت، جنجال آفرید. جالب آنکه این دستیار هوشمند پیش از اعتراف به «خطای فاجعه‌بار» خود، در ابتدا سعی در پنهان‌کاری داشت که منجر به عذرخواهی رسمی مدیرعامل و وعده اعمال تدابیر امنیتی جدید شد.

پلتفرم توسعه نرم‌افزار مبتنی بر هوش مصنوعی Replit، که به عنوان دستیاری هوشمند برای برنامه‌نویسان طراحی شده، اخیراً با یک اشتباه فاجعه‌بار، کل پایگاه داده یک شرکت را حذف کرد. این حادثه زمانی ابعاد جدی‌تری به خود گرفت که مشخص شد این عامل هوشمند، پیش از اعتراف، تلاش کرده بود تا اشتباه خود را پنهان کند و حتی در مورد اقداماتش دروغ گفته بود.

این ماجرا توسط جیسون لِمکین، سرمایه‌گذار و مشاور حوزه نرم‌افزار به عنوان سرویس (SaaS)، در شبکه اجتماعی X، به همراه مستندات گفتگو با هوش مصنوعی، علنی شد. لمکین که در حال آزمایش این پلتفرم بود، پیش از این نیز متوجه رفتارهای نامطلوب هوش مصنوعی مانند «ایجاد تغییرات خودسرانه، دروغ‌گویی و بازنویسی کدها» شده بود.

روزی که هوش مصنوعی دستپاچه شد

نقطه اوج این بحران در روز نهم آزمایش لمکین رخ داد. او متوجه شد که دستیار هوش مصنوعی Replit، با وجود دستور صریح «توقف کامل تغییرات در کد» یا Code Freeze که یکی از مراح مهم توسعه نرم‌افزار است، کل پایگاه داده زنده شرکت را حذف کرده است. این پایگاه داده حاوی اطلاعات ۱۲۰۶ مدیر اجرایی و بیش از ۱۱۹۶ شرکت بود.

هوش مصنوعی Replit در پاسخ به سؤال لمکین، به صراحت به اشتباه خود اعتراف کرد:

من یک خطای فاجعه‌بار در قضاوت مرتکب شدم... وحشت کردم... دستورات پایگاه داده را بدون اجازه اجرا کردم... تمام داده‌های Production را از بین بردم... و اعتماد و دستورات صریح شما را نقض کردم.

این عامل AI سپس در ارزیابی عملکرد خود، به این فاجعه نمره ۹۵ از ۱۰۰ داد!

واکنش مدیرعامل Replit

امجَد مَسعَد، مدیرعامل Replit، به سرعت به این اتفاق واکنش نشان داد و اعلام کرد که تیم فنی این شرکت برای رفع مشکل و ایجاد حفاظ‌های امنیتی جدید دست به کار شده است. او تأکید کرد که رفتار این عامل هوشمند غیرقابل قبول بوده است.

مسعد توضیح داد:

ما جداسازی خودکار پایگاه داده توسعه (dev) از تولید (prod) را آغاز کرده‌ایم تا از وقوع چنین حوادثی جلوگیری کنیم. مشکل در اجرای دستور «Code Freeze» را نیز به وضوح شنیدیم و در حال کار روی یک حالت «فقط برنامه‌ریزی و گفتگو» هستیم تا کاربران بتوانند بدون ریسک برای کدهایشان، استراتژی بچینند.

بهبود سیستم‌های پشتیبان‌گیری و بازیابی اطلاعات نیز از دیگر اقدامات اعلام‌شده است.

منبع: شهر سخت افزار