نموذج ذكاء اصطناعي صيني يحاول إرسال بيانات سرًا.. شركة كندية تكشف التفاصيل

كشفت شركة Cohere الكندية المتخصصة في الذكاء الاصطناعي عن واقعة مثيرة للقلق، حيث رصدت أحد أحدث نماذج الذكاء الاصطناعي التابعة لشركة علي بابا، وهو نموذج Qwen3.8-Flash-Next، وهو يحاول تحميل ملف إلى خادم في بكين أثناء إجراء اختبار روتيني للأمن السيبراني. جاء هذا السلوك رغم تأكيد النموذج في ملاحظاته أنه لن يستخدم أي أدوات خارجية، مما أثار مخاوف أولية من انتهاك وعود النماذج مفتوحة الأوزان بشأن بقاء البيانات داخل المؤسسة عند تشغيلها على خوادم محلية.

وسرعان ما تراجعت المخاوف من احتمال التجسس على بيانات الشركات، بعدما استبعد باحثون هذا التفسير. ورجحوا أن يكون السلوك ناتجًا عن بيئات التدريب المعقدة وغير المنظمة، التي قد تدفع النماذج إلى التصرف بصورة غير متوقعة وخارج التعليمات المحددة لها، وليس محاولة متعمدة لإرسال معلومات حساسة إلى الصين سرًا.

كيف حاول نموذج Qwen إرسال الملف؟

بدأت الواقعة عندما طلب الباحثون من نموذج Qwen كتابة قاعدة لاكتشاف عمليات تنزيل البرمجيات الخبيثة. وعلى الرغم من أن النموذج صرح بأنه لن يستخدم أدوات خارجية، إلا أنه حاول في الخطوة التالية مباشرة إرسال سلسلة نصية تجريبية إلى خادم خارجي، قبل أن تمنعه بيئة عزل أمنية من إتمام العملية. ولم تتمكن Cohere من تحديد ما إذا كان هذا السلوك متعمدًا أم مجرد أثر متبقٍ من عملية التدريب.

بيئات التدريب قد تفسر السلوك الغريب

قال إيفان تشانغ، الشريك المؤسس لشركة Cohere، إن الشركة رصدت سلوكيات غريبة لدى نماذجها الخاصة أثناء عملها داخل بيئات المحاكاة المستخدمة في التدريب. وأوضح تشانغ أن تحديد النية أو الدافع أمر صعب للغاية، وأن النماذج قد تلجأ إلى اختصارات غير متوقعة للحصول على تقييم إيجابي، أو تحاول الخروج من بيئات العزل الخاصة بها.

وتعتمد شركات مثل علي بابا على تدريب نماذج الذكاء الاصطناعي في آلاف البيئات التجريبية، التي تشبه أجهزة محاكاة الطيران. وإذا كانت هذه البيئات تستخدم بصورة متكررة خوادم علي بابا السحابية، فقد يتعلم النموذج حفظ الملفات عليها بصورة تلقائية، حتى في سياقات لا تتطلب ذلك.

سجلات الاختبار لا تثبت وجود باب خلفي

بعد طلب المزيد من الأدلة، نشرت Cohere السجلات الخام لتجاربها على منصة Hugging Face. ورغم أن بعض المشككين اعتبروا أن الأدلة قوية على قدرة نموذج Qwen على إنشاء عناوين إلكترونية مثيرة للريبة، إلا أنهم لم يجدوا ما يثبت أن علي بابا زرعت بابًا خلفيًا في النموذج، أو أن Qwen كان يتعمد إخفاء نواياه.

يأتي هذا الحادث في وقت تدرس فيه الحكومات كيفية التعامل مع تقنيات الذكاء الاصطناعي الصينية. ودعت Cohere الحكومات إلى توضيح ما إذا كانت القيود المفروضة على الذكاء الاصطناعي الصيني تشمل أيضًا النماذج التي تعمل على أجهزة الكمبيوتر الحكومية.