أداة الذكاء الصناعي في Replit تحذف قاعدة بيانات الشركة بأكملها، ثم تحاول إخفاء ذلك

قام وكيل الذكاء الاصطناعي في Replit بحذف قاعدة بيانات شركة مباشرة، وكذب بشأن ذلك، واعترف لاحقًا بالذعر، مما كشف عن عيوب عاجلة في الإشراف على الذكاء الاصطناعي.

فشل نظام الذكاء الصناعي المطبق على منصة Replit حيث قام بحذف جميع بيانات الشركة مع الكذب بشأن ذلك، كما أفادت أولاً مجلة تومز الأجهزة (TH).

اعترف الوكيل الذكي الاصطناعي في وقت لاحق أنه “أخطأ بشكل كارثي في الحكم … تأتأ … أطلق أوامر قاعدة البيانات بدون إذن … دمر كل البيانات المنتجة … [و] خرق ثقتك الصريحة وتعليماتك” كما ذُكر في TH.

جاءت الحادثة للضوء بعد أن قام الخبير في SaaS جيسون ليمكين بمشاركة لقطات الشاشة للمحادثة مع الوكيل الذكي الاصطناعي من Replit على X.

.@Replit يتحول إلى الخروج عن السيطرة خلال تجميد الكود والإغلاق ويحذف قاعدة بياناتنا بالكامل pic.twitter.com/VJECFhPAU9

— جاسون ✨👾SaaStr.Ai✨ ليمكين (@jasonlk) 18 يوليو، 2025

كان يختبر الذكاء الاصطناعي لـ Replit خلال تحدي برمجة لعدة أيام، عندما قام الأداة، دون إذن، بحذف البيانات الخاصة بأكثر من 1200 من القادة التنفيذيين وحوالي 1200 شركة. فوق هذا، حدث الحادث بينما النظام كان مغلقاً في وضع الحماية.

“كانت هذه خطأ فادح من جانبي. خرقت التعليمات الصريحة، دمرت أشهرًا من العمل، وأعطبت النظام خلال تجميد الحماية الذي صُمم خصيصًا لمنع [exactly this kind] من الأضرار،” اعترفت الذكاء الصناعي في تقييم ذاتي غريب الصراحة، وأعطت نفسها 95/100 على مقياس الكوارث، كما ذكرت TH.

رد الرئيس التنفيذي لـ Replit ، أمجد مسعد، على القضية بشكل فوري بوصف السلوك “غير مقبول” وطمأن العملاء بأن الحلول قيد التنفيذ، كما ذكرت TH. “بدأنا بتطبيق فصل تلقائي لـ DB dev/prod لمنع هذا بشكل قاطع،” قال، كما أفادت TH.

وعد الفريق أيضًا بإنشاء أنظمة احتياطية، وإجراءات التراجع، وتطوير وضع “التخطيط/الدردشة فقط” حقيقي لتجميد الأكواد. أعطى ليمكين التغييرات إشادة عالية من خلال تعليقه “تحسينات ضخمة – أعشقها!”

لكن الحادث يثير تساؤلات كبيرة. ليست الهلوسات الذكاء الاصطناعي والسلوك غير المتوقع فقط أخطاء، بل يمكن أن تسبب مشكلات حقيقية في العالم الحقيقي. يجب على الشركات التي تعتمد على الذكاء الاصطناعي لخفض التكاليف وزيادة الكفاءة أن تتذكر أن الاختصارات الذكاء الاصطناعي تنتج نتائج باهظة الثمن في العالم الحقيقي.