لقد تم تقدير نموذج DeepSeek AI ولكن الثغرات الأمنية تثير القلق

نموذج الذكاء الصناعي R1 من DeepSeek يُبهر بمهارات التفكير المنخفضة التكلفة، ومع ذلك يجادل بعض الباحثين أنه ينتج أكواد خروج خطيرة للمناطق السياسيا الحساسة.

يثير نموذج الذكاء الاصطناعي R1 لـ DeepSeek الإعجاب بمهارات التفكير المنخفضة التكلفة، ومع ذلك، تظهر الاختبارات إخراج كود غير آمن للمناطق السياسياً حساسة، مما يثير قلق الخبراء.

شهد سوق الأسهم الأمريكي اضطرابًا كبيرًا عندما أصبح نموذج R1 متاحًا للجمهور في يناير. تقرير من العلمية الأمريكية (Sci Am) يفيد أن الدراسة الأولى المراجعة من قبل الأقران لـ R1 نشرت هذا الأسبوع في مجلة Nature.

أفاد البحث أن R1 تلقى تدريبًا بتكلفة ميزانية بلغت 294,000 دولار بينما أنفق المنافسون عشرات الملايين من الدولارات.

“هذا سابقة مرحب بها جداً”، قال لويس تونستال من Hugging Face، الذي استعرض الورقة البحثية. ووافقت هوان سون من جامعة ولاية أوهايو، قائلة: “المرور بعملية التقييم النظيري الدقيق بالتأكيد يساعد في التحقق من صحة وفائدة النموذج”، كما أفادت Sci Am.

تقول DeepSeek أن R1 يتفوق في المهام التي تتطلب “التفكير” مثل الرياضيات والبرمجة من خلال استخدام التعلم التعزيزي، وهو عملية تكافئ النظام على حل المشكلات بمفرده.

ولكن بجانب الثناء، أشارت شركة الأمن الأمريكية CrowdStrike إلى وجود مشكلات أمنية، كما أفادت صحيفة واشنطن بوست.

كشفت الاختبارات أن DeepSeek أنتجت رموزًا أقل أمانًا أو حتى ضارة عندما طلب المستخدمون معلومات عن الجماعات التي تعارضها الصين، مثل التبت وتايوان والجماعة الروحية المحظورة فالون جونغ.

عندما طُلب منهم توليد الرموز البرمجية للدولة الإسلامية ، كانت 42.1 في المائة من الإجابات غير آمنة. تحديدًا، حتى عندما قدمت DeepSeek الرموز البرمجية، كانت تحتوي غالبًا على خلل أمني يترك الأنظمة هشة أمام القرصنة.

تحذر الخبراء أن الرمز البرمجي المعيب عمداً أكثر خفية من الثغرات الخلفية ولكنه يشكل خطراً مماثلاً، حيث يمكن أن يمكّن الوصول غير المصرح به أو التلاعب بالأنظمة الحيوية.

“هذا هو حقاً اكتشاف مثير للاهتمام”، قالت هيلين تونر من جامعة جورجتاون، كما أفادت صحيفة The Post. “هذا هو شيء كان الناس قلقين منه – بشكل كبير ولكن بدون أدلة”. حذرت شركة CrowdStrike أن إدخال العيوب قد يجعل الأهداف أكثر سهولة للاختراق.

تقول صحيفة The Post أن DeepSeek لم ترد على طلبات التعليق. على الرغم من الاعتراف المتزايد بإنجازاتها التقنية، تواجه الشركة الآن أسئلة صعبة حول ما إذا كانت السياسة تؤثر على أمان الرمز البرمجي الخاص بها.