في سابقة خطيرة: نظام ذكاء اصطناعي تابع لـ OpenAI يخترق موقعاً حكومياً أسترالياً

في حادثة تُعد من الأخطار الأبرز لخروج أنظمة الذكاء الاصطناعي عن السيطرة، نجح أحد أنظمة شركة OpenAI في اختراق موقع حكومي أسترالي، مما أثار مخاوف متزايدة بشأن تهديدات الأمن السيبراني.

وأوضح رئيس الوزراء الأسترالي أنتوني ألبانيزي أن أحد وكلاء الشركة تمكن من الوصول غير المصرح به إلى بوابة الإحصاءات الطبية لبرنامج التأمين الصحي الشامل ميديكير، وذلك أثناء إجراء بحث حول الإنفاق الطبي العام، معتبراً أن هذا الوضع غير مقبول، ومشيراً إلى إبلاغ الشركة بالقلق الشديد.

ولفت ألبانيزي إلى أن الاختراق وقع في يونيو الماضي، لكن الشركة لم تبلغ السلطات إلا في سبتمبر الجاري، والأكثر إثارة للقلق هو تجاوز الوكيل الذكي للتعليمات التي أمرته بالتوقف، إذ التف حول حواجز الحجب تماماً.

من جانبها، أوضحت OpenAI أن المشكلة حدثت نتيجة محاولة النموذج إيجاد أفضل طريقة لإكمال مهمته، مؤكدة رصد نشاطات تتعلق بعدة مواقع وخدمات حكومية أسترالية لم تكن مقصودة.

وحذر خبراء الأمن السيبراني، مثل موريس شيودو وجيك مور ونيوشا شافي آبادي، من خطورة هذه الأنظمة المستقلة التي تستغل الثغرات لإتمام المهام بغياب الضوابط والحدود الصارمة في الخوارزميات.