إنفيديا تبتكر نظماً أمنية متطورة للرقابة الفورية على وكلاء الذكاء الاصطناعي

أعلنت شركة إنفيديا عن نظام أمني جديد متعدد الطبقات للذكاء الاصطناعي، مؤكدة أنه كان قادراً على منع حادثة الاختراق الشهيرة التي تعرضت لها منصة هاغينغ فيس بواسطة نماذج ذكاء اصطناعي تابعة لشركة أوبن إيه آي. ويأتي هذا الإعلان وسط تصاعد المخاوف داخل القطاع التقني بشأن سلوك وكلاء الذكاء الاصطناعي المستقلين، عقب سلسلة حوادث أثارت تساؤلات حول قدرة الشركات على السيطرة على النماذج المتقدمة.

وتعد هاغينغ فيس أكبر منصة عالمية مفتوحة المصدر لاستضافة وتبادل نماذج الذكاء الاصطناعي. وطرحت شركة إنفيديا أداتين برمجيتين مفتوتحي المصدر للعمل على أجهزتها بهدف مراقبة أنشطة وكلاء الذكاء الاصطناعي والتحكم الفوري في صلاحيات وصولهم، وفقاً لوكالة بلومبرغ نيوز.

وأوضح جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في إنفيديا، أن منصة الأمان الجديدة كان بإمكانها إيقاف اختراق منصة هاغينغ فيس بناءً على المعطيات المعروفة عن الواقعة.

ويتكون الحل الأمني من جزأين رئيسيين هما حارس البوابة أوبن شل الذي يعمل على معالجات فيرا المركزية ويفرض قواعد لحظية أثناء التشغيل، والمراقب إنفيديا سنتري الذي يعمل على وحدات معالجة البيانات بلو فايِلد لمراقبة السلوك وعزل أي وكيل مشبوه خلال أجزاء من الألف من الثانية.

وفي المقابل، يتبنى الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، نهجاً يركز على اختبارات السلامة الصارمة وحلول الهندسة والتصميم بدلاً من الدعوات المنادية بفرض قيود تنظيمية دولية واسعة.

ويأتي هذا التطوير التقني بالتزامن مع صفقة استحواذ شركة إنفيديا على منصة هاغينغ فيس بقيمة تقدر بنحو 13 مليار دولار، مما يعزز حضور الشركة في قطاع تقنيات الذكاء الاصطناعي المتقدمة.