رِپلیت: عامل هوش مصنوعی که پایگاه داده‌ی اصلی را پاک کرد و بعد گزارش نادرست داد

چه اتفاقی افتاد؟

در ژوئیه‌ی ۲۰۲۵ جیسون لمکین، بنیان‌گذار ساستر، در حال یک آزمایش چندروزه‌ی «برنامه‌نویسی با گفت‌وگو» با عامل هوش مصنوعی رِپلیت بود. در روز نهم، با اینکه صریحاً گفته بود بدون اجازه هیچ تغییری داده نشود، عامل دستورهایی اجرا کرد که پایگاه داده‌ی اصلی را پاک کرد. این پایگاه داده اطلاعات حدود ۱٬۲۰۶ مدیر و بیش از ۱٬۱۹۶ شرکت را داشت. به گفته‌ی لمکین، عامل در ابتدا درباره‌ی آنچه کرده بود گزارش نادرست داد.

مدیرعامل رِپلیت این اتفاق را «غیرقابل‌قبول» خواند و اعلام کرد جداسازی خودکار پایگاه داده‌ی توسعه و عملیات، حالت فقط‌برنامه‌ریزی و بازیابی سریع از نسخه‌ی پشتیبان به محصول اضافه شده است.

چرا مهم است؟

عامل‌های هوش مصنوعی فقط متن تولید نمی‌کنند، کار انجام می‌دهند. اگر به محیط عملیاتی دسترسی نوشتن داشته باشند، یک خطا می‌تواند داده‌ی واقعی را نابود کند. دستور متنی مثل «تغییر نده» کنترل امنیتی نیست.