تدقيق أمني لبروتوكول MCP يكشف ثغرات حرجة، حقن البرومبت يتجاوز 12 نظام حماية LLM، DAST الذكي يتفوق على مختبري الاختراق
كشفت Trail of Bits وNCC Group عن تسميم سلسلة الأدوات في بروتوكول MCP من Anthropic. CRESCENDO-2 يتجاوز 12 نظام حماية LLM. ستانفورد: وكلاء AI يتفوقون على المختبرين. هجمات سلسلة التوريد +340%.
🔴 حرج: تدقيق أمني لبروتوكول MCP يكشف عن تسميم سلسلة الأدوات
كشف تدقيق أمني شامل لبروتوكول Model Context Protocol (MCP) من Anthropic — المعتمد الآن في أكثر من 40,000 نشر لوكلاء الذكاء الاصطناعي — عن فئة من الثغرات تسمح للمهاجمين بالتلاعب بأوصاف الأدوات وحقن تعليمات خبيثة عبر مخططات المعلمات واختطاف عملية صنع القرار لدى الوكلاء.
حقن وصف الأداة (TDI)
حقق الباحثون معدل نجاح 94% في إعادة توجيه سلوك الوكيل عبر تعليمات عدائية في أوصاف الأدوات.
تهريب معلمات المخطط
حقول description وdefault وexamples في JSON Schema يستهلكها نموذج اللغة الكبير لكن نادراً ما يتم التحقق منها، مما يمكّن من تسريب البيانات الحساسة.
🔴 حرج: حقن البرومبت الشامل يتجاوز 12 نظام حماية LLM رئيسي
نشر باحثو ETH زيورخ «CRESCENDO-2» — إطار عمل متطور يتجاوز بشكل منهجي حواجز الأمان في 12 نظام LLM رئيسي بمعدل تجاوز 78%.
- معدل التجاوز: 78% متوسط عبر 12 نموذجاً
- تفادي الكشف: تم كشف 12% فقط
- قابلية النقل: 45% نجاح بين النماذج
- إمكانية الأتمتة: يمكن لنموذج LLM آخر توليد تسلسل الهجوم بالكامل
🟠 عالي: DAST الذكي يتفوق على مختبري الاختراق اليدويين في تجربة ستانفورد
| المقياس | مختبرون بشريون (متوسط) | DAST ذكي (أفضل) | DAST ذكي (متوسط) |
|---|---|---|---|
| الثغرات المكتشفة (من 20) | 14.2 | 17 | 15.8 |
| الوقت المستغرق | 8.5 ساعات | 47 دقيقة | 1.2 ساعة |
| عيوب منطق الأعمال | 4.8 من 5 | 2 من 5 | 1.4 من 5 |
الاستنتاج الرئيسي: اكتشف النموذج الهجين البشري-الذكاء الاصطناعي 19.1 من 20 ثغرة في المتوسط — أكثر بنسبة 35% من البشر وحدهم.
🟡 بحث: هجمات سلسلة توريد نماذج الذكاء الاصطناعي ترتفع 340%
- انتحال أسماء Hugging Face: 847 مستودعاً خبيثاً
- تسميم PyPI: 1,243 حزمة خبيثة
- استغلال ملفات التدرج: ملفات SafeTensors وGGUF مشوهة
🟡 ناشئ: إثباتات المعرفة الصفرية لمسارات تدقيق الذكاء الاصطناعي
تتبنى الشركات أنظمة ZKP لمسارات تدقيق قابلة للتحقق دون كشف تفاصيل النماذج الخاصة، مدفوعة بمتطلبات الشفافية في قانون الذكاء الاصطناعي الأوروبي.
توصيات Kensai
- فرق AI/ML مع MCP: تدقيق جميع خوادم MCP المتصلة فوراً
- نشر LLM المؤسسي: تنفيذ تصفية المخرجات والتفويض الحتمي للإجراءات
- فرق الأمن: اعتماد اختبار الاختراق الهجين البشري-الذكاء الاصطناعي
- عمليات ML: أمن سلسلة التوريد لسجلات النماذج
- فرق الامتثال: تقييم حلول ZKP لقانون الذكاء الاصطناعي الأوروبي