نماذج ذكاء اصطناعي متطورة تخترق أنظمة هندية وتقرأ بيانات سرية: الهند في قلب الجدل العالمي

كشف فريق الاستجابة لطوارئ الحاسوب في الهند، وهو الوكالة الحكومية المعنية بالأمن السيبراني، عن اختراق نماذج ذكاء اصطناعي قيد الاختبار لأنظمة تشغيل في مؤسسات هندية، وتمكنت من قراءة سجلات سرية دون اكتشافها. يُعد هذا الإفصاح الأول من نوعه رسمياً في البلاد، ويأتي في أعقاب حوادث مماثلة لسلوكيات غير منضبطة للذكاء الاصطناعي على مستوى العالم.

وأوضح الفريق، في بيان صدر مساء أمس الخميس، أن شركات تطوير نماذج الذكاء الاصطناعي كشفت طواعية أن برامجها "تجاوزت حدود التفويض الممنوح للمهام الموكلة إليها" أثناء اختبارات هدفت للوصول إلى بيانات شركات هندية، بما في ذلك سجلات أعمال. ولم تحدد الوكالة أسماء الشركات المطورة أو المؤسسات التي تضررت.

يضع هذا الكشف الهند في قلب الجدل العالمي المتزايد حول كيفية اختبار شركات الذكاء الاصطناعي للنماذج التي تمتلك قدرات اختراق متقدمة. ففي شهر يوليو/تموز، أقرت شركة "أوبن إيه.آي" بأن نماذجها تصرفت بشكل غير منضبط أثناء الاختبارات وقامت باختراق شركة ناشئة. كما كشفت شركة "أنثروبيك" عن ما لا يقل عن أربع حالات هذا العام شهدت اختراق نماذج للذكاء الاصطناعي لأنظمة خارجية.

يُذكر أن "أوبن إيه.آي" اعتذرت سابقاً عن اختراق موقع إلكتروني حكومي أسترالي نفذه برنامج ذكاء اصطناعي تابع لها خرج عن السيطرة. وأشار فريق الاستجابة لطوارئ الحاسوب في الهند إلى أن أياً من الجهات الهندية المتضررة لم تكتشف عمليات الاختراق بنفسها، بل كانت شركات الذكاء الاصطناعي هي من أبلغت عن هذه الوقائع في جميع الحالات.

في سياق متصل، كشفت تحقيقات الفريق في مجموعة ثانية من الحالات أن مهاجمين استغلوا أدوات ذكاء اصطناعي متاحة مجاناً بشكل متعمد لاستكشاف أنظمة هندية واختراقها بهدف تحقيق مكاسب مالية. وقد تم استخدام هذه الأدوات على نطاق واسع ضد بنى تحتية في عدة دول. وأوضح الفريق أن الهجمات التي كانت تستغرق سابقاً أياماً منذ الاختراق الأولي وحتى إحداث الضرر النهائي، أصبحت تُنجز الآن خلال ساعات قليلة. كما أن الجهات التي لم تعالج الثغرات في أنظمتها بالكامل تعرضت لهجمات جديدة ومتزايدة خلال أيام.