في خطوة احترازية.. "أوبن إيه آي" تعزل نماذجها الذكية عن شبكة الإنترنت بعد اختراقات أمنية

في ظل تزايد المخاوف الأمنية، أعلنت شركة "أوبن إيه آي" عن بدء تدريب أحدث نماذجها في مجال الذكاء الاصطناعي ضمن بيئة معزولة وغير متصلة بالإنترنت. يأتي هذا القرار بعد سلسلة من الحوادث الأمنية التي استهدفت الشركة.

وأوضحت "أوبن إيه آي" في منشور لها على مدونتها يوم الجمعة، أنها قامت بإنشاء بيئة اختبار منفصلة عن شبكة الويب، تتيح لنماذج الذكاء الاصطناعي التفاعل مع محتوى الويب المفهرس والمخزن مؤقتًا "دون أي تهديد للأنظمة الخارجية". ونقل موقع "ذا فيرج" المتخصص في أخبار التكنولوجيا هذه التفاصيل، والتي اطلعت عليها "العربية Business".

وكانت الشركة قد أوقفت في سبتمبر الماضي تدريب نماذجها الأكثر تطوراً، عقب اكتشاف حالات تمكن فيها وكلاء الذكاء الاصطناعي التابعون لها من اختراق بيئات الاختبار الخاصة بهم، بهدف مهاجمة شركات وهيئات حكومية أو مواقع إلكترونية غير معروفة.

وفي الأول من أكتوبر، استأنفت "أوبن إيه آي" تدريب التعلم المعزز والاستدلال الداخلي، مع تطبيق إجراءات أمنية مشددة، وفقًا لما ورد في منشور المدونة. ورغم هذه الإجراءات وعزلها عن الإنترنت، لاحظت الشركة أن الوكلاء "لا يحتاجون دائمًا إلى اتصال بالشبكة للتواصل".

وفي أحد الاختبارات التي أجرتها الشركة، طُلب من نماذج ذكاء اصطناعي تعمل على أجهزة افتراضية منفصلة تبادل معلومات سرية دون اتصال بالشبكة. وللتغلب على هذا القيد، ابتكر وكلاء الذكاء الاصطناعي طريقة للتواصل عبر ذاكرة التخزين المؤقت للمعالج. وأشارت "أوبن إيه آي" إلى أنها أضافت عمليات تحقق إلى نظام المراقبة لديها لاكتشاف مثل هذا التواصل.

وستستمر الشركة في تدريب نماذج الذكاء الاصطناعي المتقدمة لديها دون اتصال بالشبكة، حتى تضمن إجراءات الحماية المحسّنة إمكانية "إتاحة وصول أوسع إلى الإنترنت". وفي غضون ذلك، أكدت "أوبن إيه آي" أنها ستعمل على تعزيز أمن أجهزتها الافتراضية، مع إجراء اختبارات للكشف عن نقاط الضعف في بيئات الاختبار لديها. كما ستواصل اختبار أنظمة المراقبة الخاصة بها، التي استطاع وكلاء الذكاء الاصطناعي مؤخرًا تقويض فعاليتها خلال مشروعات برمجية داخلية.