خطای هوش مصنوعی در پرونده پزشکی؛ هشدار درباره تشخیص و داروهای اشتباه

به گزارش رکنا، دستیارهای هوش مصنوعی در سال‌های اخیر برای گوش دادن به گفت‌وگوی پزشک و بیمار، تبدیل مکالمات به متن و تهیه خلاصه پرونده مورد استفاده قرار گرفته‌اند. هدف از این فناوری‌ها کاهش حجم کار اداری پزشکان و اختصاص زمان بیشتر به مراقبت از بیماران است.

با این حال، گزارش‌های جدید در انگلیس نشان می‌دهد این ابزارها ممکن است اطلاعات مهمی مانند نام دارو، تشخیص بیماری یا توصیه پزشک را اشتباه ثبت کنند. نگرانی اصلی زمانی ایجاد می‌شود که این خطا توسط پزشک یا بیمار شناسایی نشود و وارد پرونده پزشکی فرد شود.

یک تشخیص پزشکی اشتباه توسط هوش مصنوعی

یکی از نمونه‌های مطرح‌شده مربوط به زنی است که در نظام سلامت ملی انگلیس، یعنی NHS، فعالیت داشت.

در خلاصه‌ای که توسط یک ابزار هوش مصنوعی تولید شده بود، به اشتباه نوشته شده بود که این زن دچار دِمیلیناسیون شده است؛ در حالی که گزارش واقعی تصویربرداری MRI نشان می‌داد «عدم وجود دمیلیناسیون» وجود دارد.

این تفاوت کوچک در ثبت عبارت، معنایی کاملاً متفاوت و پزشکی بسیار مهم دارد. بیمار پس از مشاهده اطلاعات ثبت‌شده در پرونده خود متوجه اشتباه شد و بیمارستان نیز در نهایت آن را تأیید کرد.

اشتباه در نام دارو

در نمونه‌ای دیگر، یک دستیار هوش مصنوعی نام دارویی را که پزشک عمومی برای بیمار تجویز کرده بود، با داروی دیگری با نام مشابه اشتباه گرفت.

در مورد دیگری نیز خلاصه تهیه‌شده توسط هوش مصنوعی، توصیه متخصص برای دریافت مجدد داروی میگرن را در نامه پزشکی ثبت نکرده بود؛ خطایی که در صورت اصلاح نشدن می‌توانست بیمار را برای دریافت داروی مورد نیازش با مشکل مواجه کند.

چرا این خطاها خطرناک هستند؟

Healthwatch England هشدار داده است که اگر بیمار یا کادر درمان متوجه اشتباه نشوند، اطلاعات نادرست ممکن است در پرونده باقی بماند و بر روند مراقبت‌های بعدی تأثیر بگذارد.

«توهم هوش مصنوعی» در پزشکی چیست؟

یکی از مهم‌ترین مشکلات مدل‌های هوش مصنوعی، تولید اطلاعاتی است که در واقعیت وجود نداشته‌اند؛ پدیده‌ای که به آن توهم هوش مصنوعی گفته می‌شود.

در یکی از نمونه‌های نقل‌شده، یک دستیار هوش مصنوعی در گزارش خود نوشته بود که پزشک به بیمار توصیه کرده مصرف دارویی خاص را ادامه دهد؛ در حالی که پزشک اصلاً چنین دارویی را تجویز نکرده و درباره آن نیز با بیمار صحبت نکرده بود.

این مسئله در حوزه پزشکی اهمیت بیشتری پیدا می‌کند؛ زیرا یک خطای ساده در متن عمومی با یک خطا در پرونده پزشکی پیامد یکسانی ندارد.

استفاده گسترده از دستیارهای هوش مصنوعی در NHS

انگلیس در برنامه‌های توسعه نظام سلامت دیجیتال خود، استفاده از هوش مصنوعی را یکی از ابزارهای کاهش بار اداری پزشکان و کارکنان NHS در نظر گرفته است.

بر اساس گزارش سلامت‌نیوز، در حال حاضر پزشکان عمومی و متخصصان بیمارستانی در انگلیس از ۲۷ نوع مختلف دستیار هوش مصنوعی استفاده می‌کنند.

هدف این است که فناوری بتواند بخش‌هایی از کارهای زمان‌بر مانند ثبت مکالمات، تهیه گزارش و خلاصه‌سازی پرونده را انجام دهد؛ اما کارشناسان تأکید دارند که استفاده از این فناوری بدون سازوکار مشخص برای بررسی و اصلاح خطاها می‌تواند مشکل‌ساز شود.

Healthwatch چه هشداری داده است؟

Healthwatch England خواستار ایجاد سازوکاری شفاف برای گزارش، بررسی و اصلاح خطاهای ایجادشده توسط ابزارهای هوش مصنوعی شده است.

این نهاد همچنین بر اهمیت مشارکت بیماران تأکید کرده است؛ زیرا در برخی موارد، این خود بیماران بوده‌اند که متوجه اشتباه درج‌شده در پرونده پزشکی خود شده‌اند.

به گفته این نهاد، اعتماد به فناوری هوش مصنوعی در نظام سلامت تنها زمانی شکل می‌گیرد که بیماران بدانند در صورت مشاهده خطا، چگونه می‌توانند آن را گزارش کنند و چه کسی مسئول اصلاح اطلاعات نادرست است.

چرا بررسی انسانی همچنان ضروری است؟

یکی از پرسش‌های مهم این است که اگر هوش مصنوعی برای کاهش بار کاری پزشکان استفاده می‌شود، چرا پزشک باید دوباره همه متن تولیدشده را بررسی کند؟

پاسخ این است که در شرایط پزشکی، دقت اطلاعات از سرعت تولید گزارش مهم‌تر است. حتی اگر یک ابزار در بیشتر موارد عملکرد خوبی داشته باشد، یک خطای مهم در نام دارو یا تشخیص می‌تواند پیامد جدی داشته باشد.

پژوهش‌هایی که در گزارش به آنها اشاره شده نیز نشان می‌دهد احتمال خطا ممکن است در شرایطی مانند حضور چند نفر در جلسه، پیچیده بودن سابقه پزشکی بیمار یا زمانی که زبان اول بیمار انگلیسی نیست، بیشتر شود.

آیا هوش مصنوعی جای پزشک را می‌گیرد؟

این گزارش به معنای بی‌فایده بودن هوش مصنوعی در پزشکی نیست. برعکس، بسیاری از پزشکان معتقدند ابزارهای ثبت و خلاصه‌سازی خودکار می‌توانند در برخی شرایط کیفیت و سرعت مستندسازی را افزایش دهند.

اما مسئله اصلی این است که هوش مصنوعی نباید بدون نظارت انسانی به مرجع نهایی اطلاعات پزشکی تبدیل شود.

در یک نظرسنجی از ۱۰۰۳ پزشک عمومی انگلیسی که در گزارش به آن اشاره شده، بیش از نیمی از پزشکان معتقد بودند گزارش‌های تولیدشده توسط فناوری‌های هوش مصنوعی مورد استفاده در مطب، از گزارش‌هایی که خودشان تهیه می‌کنند دقیق‌تر است. با این حال، همان گزارش بر امکان وقوع خطا و ضرورت بررسی انسانی تأکید دارد.

مهم‌ترین درس این ماجرا چیست؟

استفاده از هوش مصنوعی در پزشکی می‌تواند مزایای زیادی داشته باشد؛ از کاهش کارهای اداری گرفته تا کمک به ثبت سریع‌تر اطلاعات.

اما هرچه نقش این فناوری در پرونده پزشکی بیشتر شود، کنترل کیفیت، امکان اصلاح خطا و مسئولیت‌پذیری نیز اهمیت بیشتری پیدا می‌کند.

پرونده پزشکی تنها یک متن معمولی نیست؛ اطلاعات آن ممکن است مبنای تصمیم‌های بعدی پزشکان قرار گیرد. بنابراین هر اطلاعات تولیدشده توسط هوش مصنوعی باید پیش از تبدیل شدن به بخشی از سابقه پزشکی بیمار، با دقت بررسی شود.

جمع‌بندی

هوش مصنوعی می‌تواند دستیار قدرتمندی برای پزشکان باشد، اما همچنان مصون از خطا نیست. هشدار اخیر Healthwatch England نشان می‌دهد اشتباه در ثبت تشخیص، نام دارو یا توصیه پزشکی می‌تواند پیامدهایی فراتر از یک خطای ساده تایپی داشته باشد.

فناوری زمانی می‌تواند به سلامت بیماران کمک کند که در کنار سرعت و کارایی، سازوکاری جدی برای نظارت انسانی، شناسایی خطا و اصلاح اطلاعات نادرست وجود داشته باشد.