كتبت نوره قاسم.
حذر باحثون من مخاطر الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على النصائح الطبية، في ظل احتمالية تقديم معلومات غير دقيقة قد تؤثر على صحة المستخدمين، خاصة عندما يتعلق الأمر بتشخيص الأمراض أو اختيار الأدوية أو تغيير النظام الغذائي لأسباب صحية.
وتكمن خطورة هذه المشكلة في أن الأخطاء التي تقع أثناء المحادثات مع أنظمة الذكاء الاصطناعي قد لا تصل إلى الأطباء أو الجهات الرقابية، وهو ما يجعل اكتشاف الأضرار الناتجة عنها أكثر صعوبة، ويحد من القدرة على معرفة مدى انتشارها وتكرارها.
دراسة تحذر من مخاطر النصائح الطبية الخاطئة
سلطت دراسة منشورة في مجلة «نيتشر هيلث» الضوء على التحديات المرتبطة باستخدام الذكاء الاصطناعي في تقديم الإرشادات الصحية، موضحة أن المشكلة لا تتعلق فقط بإمكانية الحصول على إجابة خاطئة، بل تمتد إلى صعوبة تتبع المحادثات التي أدت إلى اتخاذ قرارات قد تضر بصحة المستخدم.
وأوضح الباحثون أن الاستشارات الطبية التقليدية تتيح للطبيب تسجيل المعلومات المتعلقة بحالة المريض، كما توجد أنظمة للإبلاغ عن الآثار الجانبية للأدوية، بينما قد تظل المحادثات مع روبوتات الدردشة بعيدة عن متناول الأطباء والباحثين، الأمر الذي يعوق مراجعة النصائح الخاطئة وتقييم نتائجها.
وتزداد أهمية هذه المسألة مع انتشار استخدام أدوات الذكاء الاصطناعي للبحث عن تفسير للأعراض، ومعرفة أسباب الألم أو الاستفسار عن طرق العلاج، دون زيارة الطبيب في بعض الحالات.
واقعة تسمم بسبب نصيحة من الذكاء الاصطناعي
واستشهد الباحثون بحالة رجل يبلغ من العمر 60 عامًا طلب من روبوت «شات جي بي تي» نصيحة بشأن تقليل الكلوريد في نظامه الغذائي، فاقترح عليه استبدال ملح الطعام ببروميد الصوديوم.
وبعد اتباع النصيحة، أصيب الرجل بتسمم البروميد، وهو ما أدى إلى دخوله المستشفى ومعاناته من الهلوسة والشكوك المرضية.
وأظهرت الواقعة حجم المخاطر التي قد تنشأ عن التعامل مع الإجابات الآلية باعتبارها توصيات طبية موثوقة، خاصة عندما تتعلق بمواد كيميائية أو تغييرات في النظام الغذائي قد تؤثر على وظائف الجسم.
كما أوضحت الحالة صعوبة تحديد مصدر الخطأ بصورة كاملة، بسبب عدم توافر المحادثة التي جرت بين المستخدم والنظام أمام الأطباء بالشكل الذي يسمح بمراجعة النصيحة التي تلقاها بدقة.
لماذا يصعب اكتشاف أخطاء الذكاء الاصطناعي؟
تتمثل إحدى المشكلات الأساسية في أن روبوتات الدردشة قد تقدم إجابات بصياغة واضحة وواثقة، حتى عندما تكون المعلومات غير دقيقة أو لا تتناسب مع حالة الشخص. وقد يدفع هذا الأسلوب بعض المستخدمين إلى الثقة في الإجابة وتنفيذها دون التحقق منها.
كذلك، قد تختلف النصائح التي يقدمها النظام وفقًا لطريقة صياغة السؤال، والمعلومات التي يشاركها المستخدم، ومدى وضوح الأعراض المذكورة. ولا يستطيع الذكاء الاصطناعي دائمًا إجراء الفحص السريري أو الاطلاع على التاريخ الطبي الكامل أو نتائج التحاليل اللازمة لتقييم الحالة بصورة دقيقة.
ولا تقتصر المخاطر على المحادثات المباشرة، إذ يمكن أن تصل معلومات صحية مضللة إلى المستخدمين من خلال ملخصات البحث المدعومة بالذكاء الاصطناعي أو المنشورات المتداولة على مواقع التواصل الاجتماعي.
مطالب بتعزيز الرقابة والمساءلة
ودعا الباحثون إلى تطوير آليات تساعد المستخدمين على الوصول إلى سجلات محادثاتهم الصحية، إلى جانب إنشاء أنظمة قادرة على رصد النصائح الطبية الضارة والإبلاغ عنها، بما يتيح مراجعة الأخطاء المتكررة وفهم تأثيرها على صحة الأفراد.
كما طرحوا ضرورة دراسة الأطر القانونية التي تنظم مسؤولية شركات الذكاء الاصطناعي عن الإرشادات الصحية التي تقدمها، بما يتناسب مع المخاطر المحتملة لهذه التقنيات.
كيف تستخدم الذكاء الاصطناعي في الأمور الصحية بأمان؟
لا يعني التحذير أن أدوات الذكاء الاصطناعي لا يمكن الاستفادة منها في المجال الصحي، إذ يمكن استخدامها لفهم المصطلحات الطبية، وتجهيز الأسئلة التي يرغب المريض في طرحها على الطبيب، أو الحصول على شرح مبسط للمعلومات الصحية العامة.
لكن يجب عدم الاعتماد عليها وحدها لتشخيص الأمراض أو تحديد جرعات الأدوية أو إيقاف العلاج أو استبدال دواء بآخر، كما ينبغي استشارة الطبيب قبل إجراء تغييرات غذائية مرتبطة بحالة مرضية.
وفي حالات الأعراض الشديدة أو المفاجئة، يجب طلب الرعاية الطبية العاجلة بدلًا من انتظار إجابة من روبوت دردشة. وتظل مراجعة الطبيب المختص الوسيلة الأساسية لاتخاذ القرارات المتعلقة بالتشخيص والعلاج، بينما يمكن للذكاء الاصطناعي أن يكون أداة مساعدة، لا بديلًا عن التقييم الطبي المتخصص.
