أنثروبيك تكشف عن حملات صينية ضخمة لسرقة قدرات نموذج الذكاء الاصطناعي كلود

كشفت شركة أنثروبيك عن حملات واسعة النطاق نفذتها شركات صينية متخصصة في الذكاء الاصطناعي بهدف استخراج قدرات نماذجها المتقدمة، متهمةً شركات علي بابا ومونشوت وديب سيك بالانخراط في عمليات متطورة لتقطير النماذج لتجاوز أنظمة الحماية والاستفادة من قدرات النماذج الأميركية الرائدة.

وقالت أنثروبيك في تقرير جديد نشرته الخميس إن هجمات التقطير تصاعدت خلال الأشهر الأخيرة بالتزامن مع احتدام المنافسة في قطاع الذكاء الاصطناعي، مشيرة إلى أن الجهات المستهدفة حاولت الوصول إلى بعض أهم قدرات نموذج كلود، بما في ذلك قدرات الذكاء الاصطناعي الوكيل واستخدام الأدوات والبرمجة وتحليل البيانات والاستدلال المنطقي.

وأضافت الشركة أن مختبرات غير مصرح لها طورت خلال الأشهر الماضية أساليب أكثر تطوراً للتحايل على دفاعاتها واستخلاص قدرات نماذج الذكاء الاصطناعي الأميركية المتقدمة، بحسب تقرير نشره موقع تك كرانش واطلعت عليه العربية Business.

وفي سياق متصل، رصدت أنثروبيك ما يقرب من 200 مليون تفاعل مرتبط بمحاولات التقطير موزعة على 5 حملات منفصلة، حيث تستهدف هذه الهجمات استخراج ما يسمى سلسلة التفكير من إجابات النموذج بغرض تدريب نماذج أصغر على قدرات الاستدلال العامة عبر أسلوب الضبط الدقيق الخاضع للإشراف.

كما أوضحت الشركة أن الحملات تمكنت من اكتشاف أساليب محددة لخداع النموذج ودفعه إلى الكشف مباشرة عن آثار عملية التفكير الداخلية، مستخدمة حيل متنوعة مثل التخفي في صورة مهام ترجمة عادية.

وجاء الجزء الأكبر من محاولات التقطير ضمن حملة نسبت إلى شركة علي بابا ووصفت بأنها أكبر عملية تقطير واسعة النطاق ترصدها الشركة على الإطلاق، في حين نسبت الحملة الثانية إلى شركة مونشوت المطورة لنموذج Kimi، لتسلط هذه التطورات الضوء على سباق متزايد بين شركات الذكاء الاصطناعي العالمية لاستخراج المعرفة والقدرات الاستدلالية.