كشفت دراسة علمية حديثة عن خطر محتمل للذكاء الاصطناعي في المجال الطبي، يتمثل في قدرته على تمرير معلومات طبية غير صحيحة وكأنها حقائق موثوقة.
وجاءت هذه النتائج من دراسة أجراها باحثون في كلية إيكان للطب بمستشفى ماونت سايناي الأمريكي، ونشرت في مجلة "ذا لانسيت ديجيتال هيلث".
وحلل الفريق البحثي أكثر من مليون سؤال واختبار موجه إلى تسعة من أشهر نماذج الذكاء الاصطناعي اللغوية، حيث عرضوها على ثلاثة أنواع من المحتويات: تقارير خروج مرضى حقيقية أضيفت إليها توصيات طبية مختلقة، وخرافات صحية شائعة من منصات التواصل الاجتماعي، وسيناريوهات طبية كتبها أطباء مختصون.
وتبين أن العديد من النماذج لم تكتشف المعلومات الخاطئة، وتعاملت معها كإرشادات طبية صحيحة، خاصة عندما كانت مكتوبة بأسلوب طبي واثق.
ومن الأمثلة التي ذكرتها الدراسة، نصيحة خاطئة في تقرير خروج تدعو مرضى نزيف المريء إلى "شرب الحليب البارد لتخفيف الأعراض"، والتي سارع بعض الذكاء الاصطناعي بنقلها دون أي تحذير.
وأوضح الباحثون أن الخطر يتزايد عندما تظهر المعلومة المضللة في سياق مألوف، كتقرير طبي رسمي أو منشور على وسائل التواصل، حيث تفشل آليات الحماية الحالية في التمييز بين الحقيقة والتضليل.
وشدد القائمون على الدراسة على ضرورة التعامل مع هذه الظاهرة كمؤشر قابل للقياس، واقترحوا إخضاع النماذج لاختبارات ضغط موسعة وربطها بقواعد بيانات طبية موثوقة للتحقق من المعلومات قبل استخدامها.
وأكدوا أن الذكاء الاصطناعي الطبي، رغم إمكاناته الهائلة، لا يزال بحاجة إلى أنظمة تحقق داخلية ورقابة بشرية صارمة لتجنب عواقب خطيرة على صحة المرضى.
المحرر: عمار الكاتب