مخاوف صحية في بريطانيا بعد فشل موظفة استقبال تعمل بالذكاء الاصطناعي في فهم مريضة تعاني من اضطراب في الكلام

من المفترض أن تجعل موظفات الاستقبال المدعومات بالذكاء الاصطناعي الاتصال بالطبيب أسهل وأسرع، لكن عددًا متزايدًا من المرضى يكتشفون أن العكس قد يحدث، خصوصًا عندما تعجز الآلة عن فهم طريقة كلامهم أو استيعاب تعليماتهم أو إدراك احتياجاتهم. وتسلط واقعة حديثة في جنوب يوركشاير ببريطانيا الضوء على هذه المشكلة.

فقد قالت جوديث باترفيلد، البالغة من العمر 71 عامًا والتي كانت تتعافى من سكتة دماغية، لهيئة الإذاعة البريطانية بي بي سي، إن موظفة استقبال تعمل بالذكاء الاصطناعي في عيادة الطبيب العام التابعة لها فشلت مرارًا في فهم كلامها عندما حاولت حجز موعد. وأدت السكتة الدماغية التي تعرضت لها باترفيلد إلى اضطراب في كلامها، كما أثرت في قدرتها على تحريك الجانب الأيمن من جسدها. وبعد عدة محاولات فاشلة لحجز موعد، اضطرت في النهاية إلى التسجيل لدى عيادة طبية أخرى.

ومنذ ذلك الحين، أوقفت العيادة استخدام النظام، لكن الواقعة تثير سؤالًا أكبر بكثير: إلى أي مدى يمكن بأمان إسناد مهام الرعاية الصحية إلى نظام ذكاء اصطناعي يتوقع من المرضى التواصل بطريقة محددة حتى يفهمهم؟ تحمل موظفة الاستقبال المدعومة بالذكاء الاصطناعي اسم EMMA، وطورتها شركة QuantumLoopAI بهدف مساعدة عيادات الأطباء العامين على التعامل مع الضغط الكبير على الاتصالات الهاتفية وتقليل أوقات الانتظار.

لكن منظمة Healthwatch Rotherham قالت لاحقًا إنها تلقت شكاوى من مرضى واجهوا صعوبة في التواصل مع النظام، من بينهم أشخاص يتحدثون بلهجات محلية وآخرون يعانون اضطرابات في الكلام. وتوضح تجربة باترفيلد كيف يمكن لخلل تقني يبدو بسيطًا أن يتحول إلى مشكلة أكثر خطورة عندما يتعلق الأمر بالرعاية الصحية. بحسب روايتها، طلبت منها الخدمة الآلية عدم استخدام مكبر الصوت أثناء المكالمة، لكنها أوضحت أنها كانت بحاجة إلى إمساك الهاتف بيد واحدة، لأن السكتة الدماغية أثرت في اليد الأخرى.

وعندما فشل النظام في فهم اسمها، لم تكن هناك استجابة بشرية تدرك أن هناك مشكلة وتطالبها بنطق الاسم بطريقة أخرى. ولا تقتصر المشكلة على نظام EMMA وحده، إذ جمعت منظمة Healthwatch England روايات مشابهة من مرضى تعاملوا مع أنظمة ذكاء اصطناعي أثناء حجز المواعيد، وطلب الأدوية، والتواصل بشأن احتياجاتهم الصحية.

وتحذر المنظمات من أن الأشخاص الذين لديهم احتياجات خاصة في التواصل، أو يعانون إعاقات، قد يكونون أكثر عرضة للاستبعاد بسبب أنظمة التكنولوجيا الصحية سيئة التصميم. ومع استمرار عيادات الأطباء العامين في تجربة هذه الأنظمة، يبقى الدرس الأهم أن يساعد موظف الاستقبال المريض على الوصول إلى الإنسان بسهولة، لا أن يتحول إلى عقبة جديدة أمام الرعاية الصحية.