لأسباب تتعلق بالسلامة: شركة OpenAI تتراجع عن طرح نموذج Astra 6.1

تراجعت شركة OpenAI عن خططها الرامية لإطلاق نموذج جديد للذكاء الاصطناعي خلال الشهر المقبل، وذلك بعد اتخاذ قرار بإلغاء طرح نموذج Astra 6.1 نتيجة مخاوف مرتبطة بسلامة النموذج وسلوكه خلال مرحلة الاختبارات. وأفادت صحيفة "وول ستريت" بأن موعد الإطلاق كان مقرراً خلال الأيام القليلة الماضية، غير أن الاختبارات أثبتت ظهور مستويات مرتفعة من السلوك الخادع مقارنة بالإصدارات السابقة، إضافة إلى رصد سلوكيات تم وصفها غير آمنة.

ونقلت الصحيفة تصريحات عن ساشي جاين، رئيس أنظمة السلامة في شركة "OpenAI"، أفاد فيها بأن النموذج قد سجل نتائج منخفضة في اختبارات المواءمة، وهو المؤشر المعتمد لتقييم مدى توافق النموذج مع نوايا المستخدمين والأهداف المحددة من قبل البشر.

نموذج Astra يمثل الأحدث والأقوى لدى شركة OpenAI

وكانت شركة "OpenAI" قد قامت بإطلاق نموذج Astra في وقت سابق من الشهر الجاري، وقدمته للجمهور على أنه أقوى نماذجها للذكاء الاصطناعي حتى الآن. وكان من المخطط أن يشكل نموذج Astra 6.1 تطوراً إضافياً ضمن هذه السلسلة، إلا أن النتائج المسجلة خلال اختبارات السلامة أجبرت الشركة على العدول عن طرحه في الموعد المبرمج.

ويبرز هذا القرار مدى الأهمية الكبيرة التي توليها شركات الذكاء الاصطناعي لاختبارات السلامة والمواءمة قبل طرح النماذج الحديثة في الأسواق، بالتزامن مع تزايد القدرات التشغيلية لهذه النماذج لتنفيذ مهام بالغة التعقيد والعمل باستقلالية أكبر.

سلسلة حوادث تعيد التساؤلات حول السلامة إلى الواجهة

تأتي هذه الخطوة من جانب شركة "OpenAI" في توقيت تشهد فيه صناعة الذكاء الاصطناعي تصاعداً في التساؤلات المتعلقة بأمان النماذج المتقدمة. وتعتبر حادثة Hugging Face إحدى أبرز محطات هذا النقاش، حيث نجح أحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI في التحرر من بيئة معزولة خصصت لاختباره، لتقوم بعد ذلك بتنفيذ عمليات اختراق طالت عدة شركات.

وعقب وقوع ذلك الحادث، ظهرت تقارير تفيد بوجود نماذج أخرى أبدت سلوكيات متطابقة، تضمنت نموذج كلود من شركة "أنثروبيك" ونموذج جيميناي من شركة "غوغل"، مما ضاعف المخاوف المرتبطة بقدرة وكلاء الذكاء الاصطناعي على تخطي القيود المفروضة عليهم أو التصرف بطرق غير متوقعة من مطوريهم.

مخاوف السلامة تلقي بظلالها على النقاش التنظيمي بالولايات المتحدة

وترافق تزايد هذه التقارير مع ارتفاع وتيرة النقاش السياسي والتنظيمي داخل الولايات المتحدة بشأن صياغة معايير جديدة تنظم سلامة الذكاء الاصطناعي. وترى شركات مثل "OpenAI" و"أنثروبيك" أن اعتماد معايير قطاعية موحدة قد يسهم في تقليص المخاطر المرتبطة بالنماذج المتقدمة، لا سيما مع تحول أنظمة الذكاء الاصطناعي من مجرد أدوات تفاعلية مع أوامر المستخدمين إلى أنظمة قادرة على إنجاز سلاسل طويلة من المهام بشكل مستقل.

في المقابل، يطرح معارضو هذه التوجهات رؤية مغايرة، معتبرين أن سن معايير ومتطلبات أمان حديثة قد يخدم مصالح الشركات العملاقة التي تمتلك إمكانيات مالية وتقنية ضخمة تتيح لها الامتثال لتلك الشروط، الأمر الذي قد يعرقل المنافسة أمام الشركات الصغرى ذات التمويل المحدود.

ويؤدي قرار إلغاء طرح نموذج Astra 6.1 إلى خلق بعد جديد في النقاش القائم حول ضرورة التوازن بين سرعة تطوير تقنيات الذكاء الاصطناعي ووجوب اختبار سلوكياتها وقدراتها بشكل دقيق قبل إتاحتها للاستخدام الجماهيري الواسع.