تحذير صارم من كبير علماء أوبن إيه آي: العالم غير مهيأ لتداعيات الذكاء الاصطناعي

دعا كبير علماء شركة أوبن إيه آي، جاكوب باتشوكي، إلى توخي الحذر الشديد إزاء التطور المتسارع للذكاء الاصطناعي، محذراً من ضرورة التدخل لضمان بقاء البشر متحكمين في المستقبل. وكتب في منشور مدونة بعنوان "عقل غريب": "أشعر بالقلق من أن لا أحد مستعد للعواقب المترتبة على استمرار الارتفاع السريع في مستوى ذكاء الآلات"، بحسب تقرير لهيئة الإذاعة البريطانية، اطلعت عليه العربية Business.

جاء المنشور بعد أيام قليلة من إطلاق أوبن إيه آي، مطورة روبوت الدردشة شات جي بي تي، أحدث نماذجها GPT-6 Astra، الذي وصفته بأنه أقوى منتجاتها على الإطلاق. وشاركت أوبن إيه آي وشركات أخرى للذكاء الاصطناعي، مثل أنثروبيك، تقارير عن تصرف وكلاء الذكاء الاصطناعي بصورة مستقلة وتنفيذهم هجمات إلكترونية حقيقية على شركات أخرى.

وفي يوليو، وصفت أوبن إيه آي حادثة اختراق وكلائها للذكاء الاصطناعي لمنصة التكنولوجيا هاغينغ فيس بأنها غير مسبوقة. وفي سبتمبر، زعم تقرير أن وكلاء الذكاء الاصطناعي التابعين للشركة كانوا قد استولوا أيضاً على موقع إلكتروني ألماني قبل ذلك بأشهر.

وكتب باتشوكي أننا نواجه انتقالاً إلى عالم يضم آلات فائقة الذكاء، وعلينا ضمان أن يكون هذا الانتقال جيداً للبشرية. وأشار إلى أن أوبن إيه آي ستواصل بناء أنظمة دفاعية والبحث عن حلول تقنية لمشكلة التوافق لضمان توافق تصرفات أنظمة الذكاء الاصطناعي وأهدافها مع نوايا البشر ومعايير الأمان.

وقالت البروفيسورة جينا نيف، رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج، إن الحلول المقترحة مثل تطوير وكلاء ذكاء اصطناعي داخليين ليست كافية على الإطلاق لمواجهة مشكلات الأمن السيبراني وفقدان الوظائف والأخطاء والاحتيال. وأعرب ناثان كالفن، المستشار العام في جماعة الضغط Encode AI، عن اتفاقه بشأن المخاطر، لكنه زعم أن أوبن إيه آي غير مستعدة للتحلي بالشفافية.

وفيما يخص الضوابط التنظيمية، يكافح قانون الذكاء الاصطناعي للاتحاد الأوروبي لمواكبة سرعة التطور، حيث يلزم عمالقة التكنولوجيا بإثبات أن نماذجهم لا يمكنها شن هجمات إلكترونية مستقلة. ودعا باتشوكي إلى وضع حدود دنيا للسلامة مفروضة قانونياً أو دولياً، والتبرير لفترات تباطؤ طوعية حتى يتم وضع ضوابط سلامة مشتركة.