كتبت: فاطمة يونس
كشفت دراسة علمية حديثة عن مفارقة لافتة تتعلق باستخدام تقنيات الذكاء الاصطناعي في المجال الطبي، حيث تبين أن إضافة شروحات للقرارات التي يصدرها النظام قد لا تضمن بالضرورة زيادة الأمان كما هو متوقع. وأشارت النتائج إلى أن الشرح الذي يولده النموذج قد يساعد المستخدمين عندما تكون الإجابة صحيحة، لكنه في حالات أخرى قد يجعلهم أكثر استعدادًا لقبول التشخيص الخاطئ بثقة تامة.
وتناول البحث الذي حمل عنوان «الذكاء الاصطناعي المفسر في تشخيص الأمراض الجلدية سلاح ذو حدين بين الأطباء والجمهور»، كيفية تأثير طرق التفسير المختلفة على دقة التشخيص، خاصة عند التعامل مع الأمراض الجلدية، مما يضع تساؤلات جوهرية حول مخاطر التطبيقات الطبية الموجهة مباشرة للجمهور غير المتخصص.
تفاصيل التجربة وطرق التفسير المستخدمة
قام الباحثون بإجراء تجربتين واسعتين شملتا مئات المشاركين من غير المتخصصين، بالإضافة إلى أطباء الرعاية الأولية. واختبرت الدراسة عدة طرق لتقديم شروحات لتشخيصات نموذج الذكاء الاصطناعي للأمراض الجلدية، ومن أبرز هذه الطرق عرض درجة الثقة، وتقديم صور مشابهة، واستخدام خرائط توضح مناطق الصورة المهمة، فضلًا عن تقديم تفسيرات مكتوبة بلغة سهلة من إنتاج نموذج لغوي كبير.
وأظهرت النتائج أن النظام المصمم لتحقيق أداء متوازن عبر مختلف ألوان البشرة ساعد المشاركين في رفع مستوى الدقة وتقليل الفوارق المرتبطة بلون الجلد. ومع ذلك، أحدثت طريقة عرض التفسيرات تأثيرات متباينة وواضحة بين فئتي الجمهور العام والأطباء المحترفين.
تأثير الانحياز إلى الأتمتة على المستخدمين
أظهرت الدراسة أن المستخدم المبتدئ يمثل الحلقة الأكثر حساسية في هذا التعامل التقني. فقد وجد الباحثون أن غير المتخصصين كانوا أكثر عرضة لما يعرف بـ «الانحياز إلى الأتمتة»، وهو الميل لاتباع توصية النظام حتى في حال كونها خاطئة. وكان هذا التأثير ملحوظًا بشكل خاص عندما قدم النموذج اللغوي تفسيرًا يبدو منطقيًا ومقنعًا للمستخدم.
وعلى النقيض من ذلك، أظهر أطباء الرعاية الأولية الأكثر خبرة قدرة أكبر على الاستفادة من تقنيات الذكاء الاصطناعي دون الانجرار وراء الأخطاء بنفس الدرجة التي يقع فيها غير المتخصصين، مما يعكس أهمية الخبرة الطبية في تقييم مخرجات الآلة.
أهمية ترتيب عرض المعلومات في التشخيص
أشارت الدراسة إلى عامل حاسم آخر وهو ترتيب عرض المعلومات؛ حيث إن مشاهدة تشخيص الآلة قبل أن يتمكن المستخدم من تكوين رأيه الخاص قد تخلق انحيازًا مبكرًا يصعب التخلص منه لاحقًا. وهذا يفرض تحديات تقنية وأخلاقية أمام مطوري تطبيقات التشخيص الصحي.
وخلصت النتائج إلى رسالة هامة للمطورين، مفادها أن تحقيق الأمان لا يتحقق بمجرد إضافة تفسير للقرار الآلي. بل يجب أن يتم تصميم عملية التفاعل بناءً على مستوى خبرة المستخدم وتوقيت عرض توصية النظام، لا سيما وأن هذه التطبيقات قد تصل مباشرة إلى ملايين الأشخاص الذين يفتقرون إلى الخلفية الطبية اللازمة لاكتشاف الأخطاء التي قد تبدو مقنعة.
