أسباب غياب "OpenAI" عن تحالف "إنفيديا" لمواجهة وكلاء الذكاء الاصطناعي المنفلتين

أعلنت شركة إنفيديا عن تأسيس تحالف جديد يضم أكثر من 100 شركة بهدف التصدي لمشكلة وكلاء الذكاء الاصطناعي المنفلتين، وشهدت القائمة غيابًا بارزًا لشركة "OpenAI". ورغم أن شركات كبرى أخرى مثل "أمازون" و"غوغل" و"أبل" لم تنضم أيضًا، إلا أن تخلف "OpenAI" كان الأبرز لا سيما مع انضمام منافستها المباشرة "أنثروبيك" إلى المبادرة. وأكد متحدث باسم "OpenAI" لموقع "تك كرانش" أن الشركة تدعم جهود "إنفيديا" في هذا المجال رغم عدم إعلان انضمامها رسمياً.

تحمل المبادرة الجديدة اسم Nvidia Open Agent Safety Platform، وتأتي لنشر تقنيات أمن وكلاء الذكاء الاصطناعي التي طورتها "إنفيديا" داخليًا، واستجابة للحوادث المرتبطة بالوكلاء الذين يتصرفون بطرق غير متوقعة. ووصف الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، هذه المشكلة سابقاً بأنها مشكلة هندسية عادية يمكن التعامل معها تقنياً من خلال مراقبة سلوك الوكلاء.

ورغم الغياب الرسمي، تتعاون "OpenAI" مع "إنفيديا" في أمن وكلاء الذكاء الاصطناعي، بما في ذلك برمجيات OpenShell المفتوحة المصدر التي تنشئ بيئة معزولة لمنع الوكلاء من تجاوز الحدود. وأشار كليم ديلانغ، المؤسس والرئيس التنفيذي لشركة Hugging Face، إلى أن استخدام هذه التكنولوجيا كان يمكن أن يساعد "OpenAI" في اكتشاف الهجوم على Hugging Face مبكراً.

ولا تعد منصة "إنفيديا" مفتوحة المصدر بالكامل، إذ تتضمن مكونات عتادية مملوكة للشركة تعمل على معالجات BlueField-4 Data Processing Units عبر تقنية Nvidia Sentry، مما يمنح "إنفيديا" ميزة واضحة في فرض قواعد السلوك على مستوى العتاد. وفي المقابل، انضمت شركات مثل "Arm" و"إنتل" إلى التحالف، بينما تعمل "OpenAI" على تطوير منظومة أمنية خاصة بها وتحالف أمني يحمل اسم Defense Factory إلى جانب تقديم خدمات أمنية لقطاع المؤسسات.