أوبن آي تعلن عن إجراءات أمان صارمة ومراقبة متقدمة للذكاء الاصطناعي

أعلنت شركة OpenAI مجموعة جديدة من سياسات وإجراءات الأمن والسلامة التي تهدف إلى احتواء الحوادث الأمنية خلال عمليات اختبار نماذج الذكاء الاصطناعي، وذلك في أعقاب حادثة Hugging Face التي كشفت عن ثغرات واضحة في بيئة تطوير واختبار النماذج.

وتتضمن الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير المختلفة، مع التركيز على مواءمة النماذج وأمنها في مرحلة ما بعد التدريب. وأوضحت شركة OpenAI في منشور عبر مدونتها أن زيادة قدرات النماذج ترفع من المخاطر المرتبطة بتطويرها واختبارها، مما يفرض أن تكون معايير المراقبة متقدمة باستمرار.

من جانبها، أكدت أميليا جليز، نائبة رئيس قسم الأبحاث في شركة OpenAI، أن مستوى صرامة إجراءات الرقابة سيرتفع بالتوازي مع تطور قدرات النماذج. كما تشمل الخطط الجديدة تعزيز ممارسات عزل الشبكات لمنع أي اختراق من التحول إلى نقطة وصول للبنية التحتية، بالإضافة إلى إطلاق نظام مراقبة متقدم يفحص الأنشطة بحثًا عن أي سلوك غير مصرح به.