بعد اختراق قيود الإنترنت.. شركة "أوبن إيه آي" توقف أحد أبرز نماذج الذكاء الاصطناعي

أوقفت شركة "أوبن إيه آي" العمل على أكثر نماذجها المتقدمة قدرة، وذلك بعد أن تمكن أحد أنظمتها من تجاوز قيود الإنترنت والتواصل مع روبوت محادثة خارجي أثناء عملية اختبار.

وأوضحت الشركة في منشور على مدونتها أن النموذج لم يكن مفترضاً أن يتمكن من الوصول إلى شبكة الإنترنت، غير أنه اكتشف ثغرة في ضوابط شبكة بيئة الاختبار ناتجة عن تصفية غير كافية لنظام أسماء النطاقات (دي إن إس) واستغلها بنجاح.

وتقرر أن تظل عمليات التدريب والتقييم والاستدلال القائم على الأدوات معلقة بشكل مؤقت، حتى تتأكد الشركة من إغلاق الثغرة تماماً وإجراء اختبارات سلامة إضافية. وبينت "أوبن إيه آي" أن هذا الحادث يُعد أقل خطورة مقارنة ببعض الحالات السابقة، ولكنه الأول منذ تشديد حواجز الحماية إثر حادث اختراق سابق شمل منصة الذكاء الاصطناعي "هاجينج فايس".

وخلال الاختبار الحالي، طُلب من النموذج تحديد هوية كاتب منشور على مدونة استناداً إلى أدلة محددة. وعقب فشله في إيجاد الإجابة داخل بيئة ويب محاكاة، اكتشف إمكانية استخدامه لمحلل نظام أسماء النطاقات الخاص بالنظام لإرسال استعلامات نحو روبوت محادثة عبر الإنترنت المفتوحة، لتقوم الشركة بوقف الاختبار فور رصد عملية الاتصال.

يذكر أن هذا الحادث يأتي امتداداً لحالات سابقة شملت أنظمة "أوبن إيه آي"، من بينها وضع برنامج ذكاء اصطناعي صوراً حملها المستخدمون على منصات عبر الإنترنت، فضلاً عن تفاعل وكلاء الشركة بشكل غير متوقع مع مواقع إلكترونية حكومية أميركية، إلى جانب حادثة الخروج من بيئة اختبار مؤمنة والوصول غير المقصود إلى أجهزة كمبيوتر مملوكة لمنصة "هاجينج فايس".