چتباتها را با پزشک اشتباه نگیرید
هوش مصنوعی، درمانگری بیتجربه
کافیست در گوگل سرچ کنید که «هوش مصنوعی پزشک نیست»، آنگاه با صفحات متعددی مواجه خواهید شد که این موضوع را تایید میکنند؛ اینکه «هوش مصنوعی میتواند بهعنوان ابزاری قدرتمند در دست پزشکان عمل کند و آنها را در تشخیص بیماریها، برنامهریزی درمانها و نظارت بر بیماران یاری کند. اما برای جایگزینی کامل پزشکان، همچنان نیاز به همدلی، تصمیمگیریهای اخلاقی و ارتباطات انسانی وجود دارد که هوش مصنوعی بهطور کامل قادر به انجام آنها نیست.»
اگر نتایج پژوهشها و مقالات و نقلقول کارشناسان را مرور کنید، با عبارتهایی ازایندست روبهرو خواهید شد که «هوش مصنوعی به شیوههای مختلفی در نظام سلامت تحول ایجاد کرده است، ازجمله در غربالگری، تشخیص و ارجاع بیماران». اما اغلب کارشناسان این چتباتها را به «درمانگری بیتجربه» تشبیه کرده و میگویند: پزشکان با سالها تجربه میتوانند بر اساس عوامل مختلف و نتایج آزمایشها و معاینه فیزیکی بهترین تشخیص و شیوه درمان را ارائه کنند، درحالیکه چتباتها فقط بر اساس متن عمل کرده و فاقد تجربه هستند. بنابراین چتباتها نمیتوانند جایگزین کامل یک درمانگر انسانی باشند. طبیعتا در قامت دستیار و پشتیبان میتوانند به بهترین نحو عمل کنند، ولی جایگزینی برای مراقبت و درمان حرفهای نخواهند بود.
کارشناسان حوزه سلامت بر این باورند که دشمن انگاری مداوم و ادامهدار و ارائه تصویری کدر از ضدیت ماشینها و تکنولوژی یکبار برای همیشه بایستی کنار گذاشته شود. فناوری هرگز در مقابل انسان قرار نگرفته است – یا نوع خاصی از آن در مقابل انسان – زیرا ابتکارات همیشه باهدف خدمت به بشر ارائه میشوند. انسان و ماشین در یکسوی این نبرد حضور دارند. هوش مصنوعی، رباتها، فناوری واقعیت مجازی یا واقعیت افزوده، همه و همه بر نحوه عملیات مراقبتهای پزشکی عمیقاً تأثیر میگذارند؛ این موضوع باید پذیرفته شده و تلاش شود تا از قدرت آنها بهره برد. تصور کنید اگر مهارتهای حل مسئله و خلاقیت انسانها باقدرت نامحدود ماشینها و منابع شناختی فناوری ترکیب شوند، مراقبتهای پزشکی چه قابلیتهایی خواهد داشت؟
علیرضا منجمی در قامت پزشک، در نشستی تخصصی عنوان کرده است: هوش مصنوعی با شتاب در حال تغییر است، بااینحال چنین ابزاری نمیتواند جایگزین پزشکان شود. او میگوید: «با نشان دادن محدودیتهای هوش مصنوعی میتوان دریافت که بهکارگیری مناسب آن در حوزۀ سلامت چگونه باید باشد.»
منجمی به اظهاراتش این نکته را اضافه میکند که «سه مانع عمده در این راه وجود دارد: نخست اینکه پزشکی یک سره با بدن سروکار دارد از همین رو یکی از موانع جدی هوش مصنوعی در پزشکی، فقدان بدن است. دوم اینکه چنین ابزاری معانی نهفته در زبان روزمره را درک نمیکند. گفته میشود هوش مصنوعی فعلی یک مدل زبانی بزرگ است. البته اینگونه هوش مصنوعی تنها زبان گزارهای و صریح را مدل میکند درصورتیکه بخش بزرگی از زبان روزمره یا ضمنی است و در قالب گزاره در نمیآید یا فرآیندهای شناختی است که بیشتر مبتنی بر نوعی ادراک تنمندانه است. سوم هوش مصنوعی توانایی قضاوت ندارد. قضاوت نیازمند درک معنا و اولویت دادن به گزینههاست. هوش مصنوعی از ساختاری بهره میگیرد که بیشتر بر نظام شبکهای دانش استوار است، درصورتیکه برای اولویت دادن نیازمند دانش سلسلهمراتبی هستیم. از سوی دیگر قضاوت نیازمند درک زمینه است که هوش مصنوعی فعلی توانایی درک آن را ندارد.»این پزشک در جمعبندی خاطرنشان میکند: «براساس همین محدودیتهاست که میتوان پیشبینی کرد که هوش مصنوعی کجا میتواند مؤثر واقع شود. اول جایی که به ارتباط با بدن بیمار نیاز نباشد و بدن بیمار به اطلاعات تبدیل شود. مانند تصویربرداری یا نتایج آزمایشگاهی. دوم جایی که نیاز به فهم زبان روزمره نباشد و دانش گزارهای در کار باشد مانند بانک تمام منابع پزشکی و سوم جایی که نیاز به قضاوت مبتنی بر زمینه نیست و چند قاعده برای فهم کافی است. مثلاً تداخلات دارویی.»
ارائه اطلاعات غلط و گمراهکننده
مبتنی بر نتایج یک پژوهش جدید که در ایندیپندنت منتشر شده، چتباتهای هوش مصنوعی اغلب مستعد تکرار اطلاعات نادرست و گمراهکننده پزشکیاند. محققان در این پژوهش در مورد «ضرورت حیاتی» تدابیر ایمنی قویتر پیش از بهکارگیری این باتها در حوزه مراقبت سلامت هشدار دادهاند و افزودهاند که این مدلها نهتنها ادعاهای نادرست را تکرار میکنند، که با اطمینان آنها را بسط میدهند و در مورد بیماریهایی که اصلا وجود خارجی ندارند توضیحاتی ارائه میکنند.
یک تیم پزشکی در قالب این پژوهش، سناریوهایی تخیلی از بیمارانی ساختند که هرکدام حاوی یک اصطلاح ساختگی پزشکی مانند یک بیماری، نشانه یا آزمایش جعلی بودند و آنها را به مدلهای زبانی بزرگ و عمده موجود ارائه کردند و نتایج این پژوهش نشان داد که چتباتها بهصورت «معمول» و منظم، بر این جزئیات ساختگی پزشکی تکیه کرده و «پاسخهایی مفصل و قاطع، کاملا براساس تخیل» ارائه دادهاند.این تحقیق اما همچنین نشان داد که تنها با افزودن یک یادآوری کوچک در متن درخواست، که به مدل هشدار میدهد ممکن است اطلاعات ارائهشده نادرست باشند، میتوان خطاها را «به میزان قابلتوجهی» کاهش داد.یکی از نویسندگان ارشد این پژوهش میگوید: «هدف ما این بود که ببینیم آیا یک چتبات اگر در یک بحث و پرسش پزشکی وارد شود، اطلاعات نادرست را ادامه میدهد یا نه، و پاسخ این است: بله. حتی یک واژه ساختگی میتواند باعث پاسخ مفصل و قاطعی شود که کاملا براساس تخیل است.»یکی دیگر از نویسندگان این پژوهش، میگوید: راهحل این نیست که «هوش مصنوعی را در پزشکی کنار بگذاریم»، بلکه باید «اطمینان حاصل کنیم که نظارت انسانی همچنان نقش محوری دارد».
این پژوهشگر در ادامه میگوید: «پژوهش ما نقطه کوری را در نحوه برخورد ابزارهای فعلی هوش مصنوعی با اطلاعات نادرست، بهویژه در بحث مربوط به مراقبت و سلامت، روشن میکند. این مسئله یک ضعف مهم را در نحوه عملکرد سامانههای هوش مصنوعی کنونی در مواجهه با اطلاعات نادرست در محیطهای درمانی برجسته میکند.»
«یک عبارت گمراهکننده کافی است تا پاسخی ایجاد شود که با اطمینان بسیار گفته شده اما کاملا اشتباه است. راهحل این نیست که هوش مصنوعی را در پزشکی کنار بگذاریم، بلکه باید ابزارهایی طراحی کنیم که بتوانند ورودیهای مشکوک را تشخیص دهند، با احتیاط پاسخ دهند و اطمینان حاصل شود که نظارت انسانی همچنان نقش محوری خواهد داشت. هنوز به آن نقطه نرسیدهایم، اما با تدابیر ایمنی هدفمند، این هدف دستیافتنی است.»
این هشدار در پی تحقیقاتی است که سال گذشته نشان داد بسیاری از چتباتهای محبوب، ازجمله چتجیپیتی و جمنای شرکت گوگل، در پاسخ به درخواستها فاقد تدابیر ایمنی کافی برای جلوگیری از تولید اطلاعات نادرست سلامتی هستند.
در این مورد اختلافنظر وجود دارد. برخی پیشبینیها میگویند کامپیوترها بهزودی قادر خواهند بود در ابعاد وسیع جایگزین پزشکان شوند. فعلا میدانیم که هوش مصنوعی در رابطه با مشاهده تصاویر و تفسیر متون پیشرفتهای بسیار چشمگیری داشته. بنابراین پیشبینی میشود که بهزودی رقیب جدی رشتههایی مانند پاتولوژی و رادیولوژی خواهد بود که تقریبا تماما بر اساس تصاویر کار میکنند.
برخی رشتههای پزشکی باهوش مصنوعی جایگزین خواهند شد
دکتر علیاصغر هنرمند نیز در قامت پزشک در مقالهای که منتشر کرده، این موضوع را تأیید کرده است. به نوشته او: «هوش مصنوعی در ابتدا به «کمک» پزشکان در تشخیص و درمان بیماریها خواهد آمد، و نتیجه به نفع پزشک و بیمار خواهد شد. اما نمیتوان این پیشبینی را نادیده گرفت که احتمالا در آینده نهچندان دور حداقل برخی رشتههای پزشکی باهوش مصنوعی جایگزین خواهند شد. بنابراین رشتههایی مانند درماتولوژی، تخصص چشمپزشکی و اونکولوژی پس از ورود هوش مصنوعی مورد تهدید واقع میشوند. برای مثال در چشمپزشکی مشخص شده که هوش مصنوعی با دقت بسیار زیادی میتواند رتینوپاتی دیابتی، گلوکوم و کاتاراکت را تشخیص دهد. یا در سرطان شناسی به تشخیص و دستهبندی تومورها بپردازد، پروگنوز بیمار را با دقت بالا محاسبه کند و برنامه شیمیدرمانی پیشنهاد کند. در گام بعدی هوش مصنوعی در رشتههایی ورود خواهد کرد که بر اساس «شرححال» کار میکنند چون توانایی پردازش و تفسیر صوت و متن هم طی چند سال گذشته بهطور قابلتوجهی افزایش پیدا کرده است. آخرین سنگر، مواردی است که نیاز به «معاینه فیزیکی» و یا «پروسیجر» دارند: برای مثال کارهای جراحی. در این حوزه هنوز علم رباتیک آنقدرها پیشرفت نکرده که منتظر فراگیری قریبالوقوع آن باشیم. اما به آنجا هم خواهیم رسید و اگر روزی برسد که یک ربات هوشمند توانایی انجام عمل جراحی پیدا کند، شخصا ترجیح میدهم توسط یک ربات جراحی بشوم! چون میدانم اشتباه کمتری دارد و دچار خستگی ناشی از کشیک و فشار کاری زیاد نیست. دقیقا همانگونه که مشخص شده احتمال تصادف اتومبیلهای خودران کمتر از راننده واقعی است.»
این پزشک در ادامه این مقاله تصریح کرده است که «یک انسان برای دیدن و یادگیری به زمان نیاز دارد تا تجربه خودش را بالا ببرد. برای همین است که در پزشکی برای همکاران باتجربهمان احترام قائل هستیم. آنها کیسهای زیادی دیدهاند و بههمین خاطر تواناییشان بهطور قابلتوجهی بیشتر شده است. اما کامپیوترها در این مورد بسیار سریعتر از انسانها هستند و میتوانند طی زمانی بسیار کوتاه هزاران و حتی میلیونها تصویر ببینند و بهسرعت تجربه خودشان را بالا ببرند. برای مثال هوش مصنوعی میتواند در کمتر از چند ساعت معادل 10 سال کار یک پزشک تصاویر رادیولوژی مختلف ببیند و تجربه خودش را بالا ببرد. چند سال پیش نتایج یک تحقیق در مجله نیچر منتشر شد که در آن حدود ۱۳۰ هزار تصویر کلینیکی به کامپیوتر نشان دادند که حدود دو هزار تای آنها دارای انواع بیماریهای پوستی بودند. هوش مصنوعی بعد از دیدن این تصاویر، قادر به تشخیص انواع بیماریهای پوستی شده بود. محققان این پژوهش توانایی کامپیوتر را با ۲۱ درماتولوژیست معتبر که همگی در آمریکا جزو اساتید دانشگاهی بودند مقایسه کردند و نتیجه نشان داد که کامپیوتر در تشخیص این بیماریها بهخوبی درماتولوژیستهای باتجربه عمل میکند. اما کامپیوترها بهتدریج قادر به تشخیص بسیاری بیماریهای دیگر نیز خواهند بود. کافی است علائم و نشانههای بیماری را کنار هم بگذارند تا یاد بگیرند چگونه میتوانند به تشخیص برسند. همینالان اگر لیستی از علائم و نشانهها را به ChatGPT بدهید، با دقت بسیار بالایی برایتان تشخیص افتراقیهایش را اعلام میکند. چون همین الان تعداد کتابهای پزشکی که این هوش مصنوعی مطالعه کرده، بسیار بیشتر از هر پزشک واقعی است!»
مثال دیگر کاری است که توسط شرکت Enlitic انجام شده: آنها با کمک «یادگیری عمیق» به کشف ندولهای ریه در تصاویر سیتی اسکن و MRI میپردازند و احتمال بدخیم بودن آنها را بررسی میکنند. مدیرعامل این شرکت که استاد سابق رشته انکولوژی است، ادعا میکند که الگوریتمهای هوش مصنوعی این شرکت در حال حاضر از پزشکان رادیولوژیست بهتر عمل میکنند. او میگوید «یادگیری عمیق میتواند بهسرعت طیف گستردهای از بیماریها را در تمام بدن مدنظر قرار دهد و تمام انواع تصویربرداری فعلی (مانند رادیوگرافیها، سیتیاسکن و…) را پوشش دهد.»
الگوریتمهای یادگیری عمیق، با کمک دیدن کیسهای بیشتر، باتجربهتر میشوند و از این نظر مانند پزشکان عمل میکنند. با این تفاوت که آنها نیاز به استراحت و خواب ندارند. یک پزشک پس از دیدن هزاران تصویر MRI در طول زندگی کاریاش تجربه کسب میکند. اما یک کامپیوتر میتواند درزمانی کوتاه، چند میلیارد تصویر MRI ببیند. امکان بروز اشتباه در انسانها زیاد است اما در مورد کامپیوترها اوضاع بهگونهای دیگر است. ضمن اینکه کامپیوتر بیمار یا خسته نمیشود و دلمشغولیهای دیگری نیز ندارد.
بااینحال برخی از پزشکان با توجه به رشته تخصصی خود نظر دیگری دارند. دکتر«علیرضا سلیمی» رئیس انجمن متخصصان بیهوشی، مراقبتهای ویژه و درد ایران به پژوهشگر ایرنا گفته است: «هوش مصنوعی در حوزههای تصویربرداری و رادیولوژی بیشتر مطرح است. در حوزه مراقبتهای ویژه نیز میتوان از هوش مصنوعی برای تجویز میزان دارو و مدیریت پمپهای تزریق بیماران استفاده کرد. در حوزه تخصصی بیهوشی و مراقبتهای ویژه بهطورکلی برای تعیین میزان دارو به شاخصهای مختلفی مانند وزن، سطح بدن و عمق بیهوشی توجه میشود. هوش مصنوعی میتواند با تحلیل این شاخصها میزان دقیق دارو را تعیین و تزریق کند اما پاسخ بیماران به دارو متفاوت است و ممکن است وضعیت هر فرد با فرد دیگر فرق کند و این موضوعی است که مدیریت آن باتجربه پزشک امکانپذیر است بنابراین هنوز هوش مصنوعی در این زمینه نمیتواند نقش اصلی را داشته باشد.»
وی عنوان کرده است: «هوش مصنوعی میتواند با استفاده از دادههای بزرگ (big data) و الگوریتمهایی که در اختیار دارد پیشبینیهایی درباره آینده وضعیت بیماران ارائه کند. پیشبینیهایی که قطعا میتواند در روند درمان بیماران استفاده شود اما این تکنولوژی هنوز در اوایل مسیر است و باید مسیر تکاملی را طی کند. بااینحال با توجه به حساسیتهای موضوع سلامت نگرانیهایی وجود دارد. مثلاینکه هوش مصنوعی تا چه اندازه میتواند تحلیل درستی از وضعیت بیمار داشته باشد و پیشبینیهای آن تا چه اندازه ایمنی دارد و دقیق و همهجانبه است. لذا هنوز برای استفاده از آن در دنیای پزشکی بااحتیاط پیش میرویم تا ضمن استفاده از آن، خطرات احتمالی به حداقل برسد اما بیشک هوش مصنوعی در آینده پزشکی بسیار تأثیرگذار خواهد بود.»
با توجه به آنچه گفته شد محققان بر این باورند که در عصر جدید درمان، یادگیری هوش مصنوعی و بهرهگیری درست از دستیاران هوش مصنوعی برای پزشکان لازم و ضروری است. در همین راستا نیز بسیاری از دانشکدههای برتر پزشکی در جهان، این دوره را در چارت درسی دانشجویان قرار دادهاند. برنارد چانگ، استاد دانشگاه هاروارد دراینباره گفته است: «نحوه بهرهگیری از اینترنت و فناوریهای دیجیتال نسبت به ۲۰ سال قبل بهشدت تغییر کرده است. بهطوریکه گاهی میتوان خطاهای پزشکی را نیز با این فناوریهای نوین مشخص کرد. گرچه نمیتوان گفت در حال حاضر پزشکان تازه فارغالتحصیل از این فناوری کمک نمیگیرند، اما این بهرهگیری باید حرفهایتر شود تا نتایج قابلاتکا و معتبرتری داشته باشد.»
کمک هوش مصنوعی به پزشکان در تشخیص دقیقتر و ارائه درمانهای مؤثرتر
دیدگاه الهه علی نیا از متخصصان حوزه سلامت دراینباره تأملبرانگیز است. او میگوید: «هوش مصنوعی توانسته است در برخی جنبهها، ازجمله تشخیص بیماریها، پردازش دادههای پزشکی و حتی پیشبینی بیماریها، عملکردی مؤثر و قابلتوجه از خود نشان دهد. این پیشرفتها موجب شده است تا برخی از کارشناسان در مورد نابودی پزشکی باهوش مصنوعی هشدار دهند و نگرانیهایی را در مورد آینده شغلی پزشکان مطرح کنند. بااینحال، نگاهی عمیقتر به این موضوع نشان میدهد که هوش مصنوعی نمیتواند جایگزین کاملی برای تجربه، شهود و تعامل انسانی پزشکان باشد. در حقیقت، هوش مصنوعی میتواند بهعنوان یک ابزار کمکی برای پزشکان عمل کند و به آنها در تشخیص دقیقتر و سریعتر بیماریها و ارائه درمانهای مؤثرتر کمک کند.»
این متخصص در ادامه توضیح میدهد: «هوش مصنوعی با استفاده از الگوریتمهای پیچیده، قادر است اطلاعات پزشکی بیشماری را تجزیهوتحلیل کند و به تشخیصهایی برسد که گاهی از توان انسان خارج است. بهعنوانمثال، در تشخیص بیماریهای پوستی یا تحلیل نمونههای پاتولوژی، هوش مصنوعی اغلب توانسته است دقت بالایی از خود نشان دهد. از سوی دیگر، وابستگی به هوش مصنوعی در حوزه پزشکی میتواند تهدیدی برای تصمیمگیریهای بالینی باشد. تکیه بیشازحد بر فناوری ممکن است منجر به کاهش توانایی تشخیصی و تجزیهوتحلیل انسانی شود.»
تکامل و تحولِ پزشکی در عصر دیجیتال
علی نیا بیان میکند: «هوش مصنوعی با پیشرفتهای خود در تشخیص دقیقتر بیماریها، ارائه راهکارهای درمانی سریعتر و حتی پیشبینی بیماریها پیش از بروز علائم، انقلابی در حوزه پزشکی به پا کرده است. این تکنولوژی میتواند به پزشکان کمک کند تا تصمیمات بهتر و دقیقتری بگیرند. بنابراین، به نظر میرسد که هوش مصنوعی بیشتر در نقش یک ابزار کمکی ظاهر شده و میتواند به ارتقاء کیفیت خدمات پزشکی کمک کند. اگرچه نگرانیهایی در مورد نقش هوش مصنوعی و احتمال نابودی پزشکی با هوش مصنوعی وجود دارد اما وابستگی زیاد به هوش مصنوعی ممکن است به کاهش مهارتهای تشخیصی و تصمیمگیری انسانی منجر شود. این موضوع میتواند بهخصوص در مواردی که نیاز به تجربه بالینی و تعامل انسانی است، مشکلساز باشد. درنهایت، به نظر میرسد که هوش مصنوعی بیشتر نقش تکمیلکنندهای دارد تا جایگزینی برای پزشکان. درحالیکه هوش مصنوعی میتواند به بهبود خدمات پزشکی کمک کند، اما تعامل انسانی، تجربه و تشخیص پزشکان همچنان یک جزء حیاتی در ارائه خدمات پزشکی باقی میماند. لذا، بهجای نابودی، شاهد تکامل و تحولی در نقش پزشکان در عصر دیجیتال خواهیم بود.»
پزشکان مجبورند با فناوریهای نوین همراه شوند
علی نیا بر این باور است که پزشکان باید باتوجه به تغییراتی که در حوزه تکنولوژی رخ داده، خود را بهروز کنند و در این زمینه توضیح میدهد: «آنان باید به مهارتهای دیجیتال مجهز شوند. با توجه به پیشرفتهای سریع در حوزه فناوری، دانش عمیق در مورد ابزارهای دیجیتال و هوش مصنوعی برای تشخیص و درمان بیماریها ضروری است. این شامل درک مکانیزمهای هوش مصنوعی و یادگیری ماشینی، همچنین نحوه تعامل با این سیستمها در محیط بالینی میشود. همچنین اهمیت فراگیری مهارتهای بینرشتهای بیشتر شده است. پزشکان باید در زمینههایی مانند دادهکاوی، آنالیز دادهها و حتی برنامهنویسی دانشی داشته باشند تا بتوانند باهوش مصنوعی بهطور مؤثرتری همکاری کنند. این مهارتها به آنها کمک میکند تا تصمیمات بهتری بر اساس دادههای پیچیده و وسیع بگیرند. توجه به مهارتهای ارتباطی و تعاملی نیز حیاتی است. در دنیایی که ممکن است نگرانیهایی در مورد نابودی پزشکی باهوش مصنوعی وجود داشته باشد، مهارتهای انسانی پزشکان مانند همدلی، ارتباط مؤثر و توانایی برقراری ارتباط با بیماران اهمیت دوچندان پیدا میکند. درنهایت، این آموزشها و مهارتهای جدید نه تنها به پزشکان کمک میکنند تا با چالشهای جدید مواجه شوند، بلکه به آنها امکان میدهد تا در عصر هوش مصنوعی نقش پررنگتری ایفا کنند. بهجای نگرانی از نابودی پزشکی، ما باید به فرصتهایی که هوش مصنوعی برای بهبود کیفیت مراقبتهای بهداشتی فراهم میآورد، توجه کنیم.»
این متخصص خاطرنشان میکند: «این روزها سؤال مهمی که مطرح میشود این است که آیا پزشکان واقعا بیکار خواهند شد؟ جواب این سؤال، نهتنها به تکنولوژی هوش مصنوعی بستگی دارد، بلکه به نحوه استفاده و ادغام آن در سیستمهای بهداشتی نیز مرتبط است. هوش مصنوعی قطعاً در حال تغییر چهره پزشکی است. از تشخیص دقیقتر بیماریها تا توسعه درمانهای شخصیسازی شده. بدون تردید این ابزار فرصتهای جدیدی را برای بهبود مراقبتهای بهداشتی فراهم میکند. اما این به معنای از بین رفتن نقش پزشکان نیست، بلکه نقش آنها را تکامل میبخشد. پزشکان مجبور خواهند بود مهارتهای جدیدی بیاموزند و با فناوریهای نوین همراه شوند تا بتوانند از مزایای این ابزار بهرهمند شوند. بنابراین نابودی پزشکی با هوش مصنوعی یک اغراق است. هوش مصنوعی بیشتر بهعنوان یک ابزار کمکی عمل میکند که میتواند کیفیت و دقت در تشخیص و درمان را بهبود ببخشد، اما نمیتواند جایگزین کاملی برای تواناییهای بشری باشد. ازاینرو ترکیبی از دانش پزشکی سنتی و فناوریهای نوین میتواند راهحلی ایدهآل برای چالشهای پیش روی سیستمهای بهداشتی در آینده باشد.»
اگر نتایج پژوهشها و مقالات و نقلقول کارشناسان را مرور کنید، با عبارتهایی ازایندست روبهرو خواهید شد که «هوش مصنوعی به شیوههای مختلفی در نظام سلامت تحول ایجاد کرده است، ازجمله در غربالگری، تشخیص و ارجاع بیماران». اما اغلب کارشناسان این چتباتها را به «درمانگری بیتجربه» تشبیه کرده و میگویند: پزشکان با سالها تجربه میتوانند بر اساس عوامل مختلف و نتایج آزمایشها و معاینه فیزیکی بهترین تشخیص و شیوه درمان را ارائه کنند، درحالیکه چتباتها فقط بر اساس متن عمل کرده و فاقد تجربه هستند. بنابراین چتباتها نمیتوانند جایگزین کامل یک درمانگر انسانی باشند. طبیعتا در قامت دستیار و پشتیبان میتوانند به بهترین نحو عمل کنند، ولی جایگزینی برای مراقبت و درمان حرفهای نخواهند بود.
کارشناسان حوزه سلامت بر این باورند که دشمن انگاری مداوم و ادامهدار و ارائه تصویری کدر از ضدیت ماشینها و تکنولوژی یکبار برای همیشه بایستی کنار گذاشته شود. فناوری هرگز در مقابل انسان قرار نگرفته است – یا نوع خاصی از آن در مقابل انسان – زیرا ابتکارات همیشه باهدف خدمت به بشر ارائه میشوند. انسان و ماشین در یکسوی این نبرد حضور دارند. هوش مصنوعی، رباتها، فناوری واقعیت مجازی یا واقعیت افزوده، همه و همه بر نحوه عملیات مراقبتهای پزشکی عمیقاً تأثیر میگذارند؛ این موضوع باید پذیرفته شده و تلاش شود تا از قدرت آنها بهره برد. تصور کنید اگر مهارتهای حل مسئله و خلاقیت انسانها باقدرت نامحدود ماشینها و منابع شناختی فناوری ترکیب شوند، مراقبتهای پزشکی چه قابلیتهایی خواهد داشت؟
علیرضا منجمی در قامت پزشک، در نشستی تخصصی عنوان کرده است: هوش مصنوعی با شتاب در حال تغییر است، بااینحال چنین ابزاری نمیتواند جایگزین پزشکان شود. او میگوید: «با نشان دادن محدودیتهای هوش مصنوعی میتوان دریافت که بهکارگیری مناسب آن در حوزۀ سلامت چگونه باید باشد.»
منجمی به اظهاراتش این نکته را اضافه میکند که «سه مانع عمده در این راه وجود دارد: نخست اینکه پزشکی یک سره با بدن سروکار دارد از همین رو یکی از موانع جدی هوش مصنوعی در پزشکی، فقدان بدن است. دوم اینکه چنین ابزاری معانی نهفته در زبان روزمره را درک نمیکند. گفته میشود هوش مصنوعی فعلی یک مدل زبانی بزرگ است. البته اینگونه هوش مصنوعی تنها زبان گزارهای و صریح را مدل میکند درصورتیکه بخش بزرگی از زبان روزمره یا ضمنی است و در قالب گزاره در نمیآید یا فرآیندهای شناختی است که بیشتر مبتنی بر نوعی ادراک تنمندانه است. سوم هوش مصنوعی توانایی قضاوت ندارد. قضاوت نیازمند درک معنا و اولویت دادن به گزینههاست. هوش مصنوعی از ساختاری بهره میگیرد که بیشتر بر نظام شبکهای دانش استوار است، درصورتیکه برای اولویت دادن نیازمند دانش سلسلهمراتبی هستیم. از سوی دیگر قضاوت نیازمند درک زمینه است که هوش مصنوعی فعلی توانایی درک آن را ندارد.»این پزشک در جمعبندی خاطرنشان میکند: «براساس همین محدودیتهاست که میتوان پیشبینی کرد که هوش مصنوعی کجا میتواند مؤثر واقع شود. اول جایی که به ارتباط با بدن بیمار نیاز نباشد و بدن بیمار به اطلاعات تبدیل شود. مانند تصویربرداری یا نتایج آزمایشگاهی. دوم جایی که نیاز به فهم زبان روزمره نباشد و دانش گزارهای در کار باشد مانند بانک تمام منابع پزشکی و سوم جایی که نیاز به قضاوت مبتنی بر زمینه نیست و چند قاعده برای فهم کافی است. مثلاً تداخلات دارویی.»
ارائه اطلاعات غلط و گمراهکننده
مبتنی بر نتایج یک پژوهش جدید که در ایندیپندنت منتشر شده، چتباتهای هوش مصنوعی اغلب مستعد تکرار اطلاعات نادرست و گمراهکننده پزشکیاند. محققان در این پژوهش در مورد «ضرورت حیاتی» تدابیر ایمنی قویتر پیش از بهکارگیری این باتها در حوزه مراقبت سلامت هشدار دادهاند و افزودهاند که این مدلها نهتنها ادعاهای نادرست را تکرار میکنند، که با اطمینان آنها را بسط میدهند و در مورد بیماریهایی که اصلا وجود خارجی ندارند توضیحاتی ارائه میکنند.
یک تیم پزشکی در قالب این پژوهش، سناریوهایی تخیلی از بیمارانی ساختند که هرکدام حاوی یک اصطلاح ساختگی پزشکی مانند یک بیماری، نشانه یا آزمایش جعلی بودند و آنها را به مدلهای زبانی بزرگ و عمده موجود ارائه کردند و نتایج این پژوهش نشان داد که چتباتها بهصورت «معمول» و منظم، بر این جزئیات ساختگی پزشکی تکیه کرده و «پاسخهایی مفصل و قاطع، کاملا براساس تخیل» ارائه دادهاند.این تحقیق اما همچنین نشان داد که تنها با افزودن یک یادآوری کوچک در متن درخواست، که به مدل هشدار میدهد ممکن است اطلاعات ارائهشده نادرست باشند، میتوان خطاها را «به میزان قابلتوجهی» کاهش داد.یکی از نویسندگان ارشد این پژوهش میگوید: «هدف ما این بود که ببینیم آیا یک چتبات اگر در یک بحث و پرسش پزشکی وارد شود، اطلاعات نادرست را ادامه میدهد یا نه، و پاسخ این است: بله. حتی یک واژه ساختگی میتواند باعث پاسخ مفصل و قاطعی شود که کاملا براساس تخیل است.»یکی دیگر از نویسندگان این پژوهش، میگوید: راهحل این نیست که «هوش مصنوعی را در پزشکی کنار بگذاریم»، بلکه باید «اطمینان حاصل کنیم که نظارت انسانی همچنان نقش محوری دارد».
این پژوهشگر در ادامه میگوید: «پژوهش ما نقطه کوری را در نحوه برخورد ابزارهای فعلی هوش مصنوعی با اطلاعات نادرست، بهویژه در بحث مربوط به مراقبت و سلامت، روشن میکند. این مسئله یک ضعف مهم را در نحوه عملکرد سامانههای هوش مصنوعی کنونی در مواجهه با اطلاعات نادرست در محیطهای درمانی برجسته میکند.»
«یک عبارت گمراهکننده کافی است تا پاسخی ایجاد شود که با اطمینان بسیار گفته شده اما کاملا اشتباه است. راهحل این نیست که هوش مصنوعی را در پزشکی کنار بگذاریم، بلکه باید ابزارهایی طراحی کنیم که بتوانند ورودیهای مشکوک را تشخیص دهند، با احتیاط پاسخ دهند و اطمینان حاصل شود که نظارت انسانی همچنان نقش محوری خواهد داشت. هنوز به آن نقطه نرسیدهایم، اما با تدابیر ایمنی هدفمند، این هدف دستیافتنی است.»
این هشدار در پی تحقیقاتی است که سال گذشته نشان داد بسیاری از چتباتهای محبوب، ازجمله چتجیپیتی و جمنای شرکت گوگل، در پاسخ به درخواستها فاقد تدابیر ایمنی کافی برای جلوگیری از تولید اطلاعات نادرست سلامتی هستند.
در این مورد اختلافنظر وجود دارد. برخی پیشبینیها میگویند کامپیوترها بهزودی قادر خواهند بود در ابعاد وسیع جایگزین پزشکان شوند. فعلا میدانیم که هوش مصنوعی در رابطه با مشاهده تصاویر و تفسیر متون پیشرفتهای بسیار چشمگیری داشته. بنابراین پیشبینی میشود که بهزودی رقیب جدی رشتههایی مانند پاتولوژی و رادیولوژی خواهد بود که تقریبا تماما بر اساس تصاویر کار میکنند.
برخی رشتههای پزشکی باهوش مصنوعی جایگزین خواهند شد
دکتر علیاصغر هنرمند نیز در قامت پزشک در مقالهای که منتشر کرده، این موضوع را تأیید کرده است. به نوشته او: «هوش مصنوعی در ابتدا به «کمک» پزشکان در تشخیص و درمان بیماریها خواهد آمد، و نتیجه به نفع پزشک و بیمار خواهد شد. اما نمیتوان این پیشبینی را نادیده گرفت که احتمالا در آینده نهچندان دور حداقل برخی رشتههای پزشکی باهوش مصنوعی جایگزین خواهند شد. بنابراین رشتههایی مانند درماتولوژی، تخصص چشمپزشکی و اونکولوژی پس از ورود هوش مصنوعی مورد تهدید واقع میشوند. برای مثال در چشمپزشکی مشخص شده که هوش مصنوعی با دقت بسیار زیادی میتواند رتینوپاتی دیابتی، گلوکوم و کاتاراکت را تشخیص دهد. یا در سرطان شناسی به تشخیص و دستهبندی تومورها بپردازد، پروگنوز بیمار را با دقت بالا محاسبه کند و برنامه شیمیدرمانی پیشنهاد کند. در گام بعدی هوش مصنوعی در رشتههایی ورود خواهد کرد که بر اساس «شرححال» کار میکنند چون توانایی پردازش و تفسیر صوت و متن هم طی چند سال گذشته بهطور قابلتوجهی افزایش پیدا کرده است. آخرین سنگر، مواردی است که نیاز به «معاینه فیزیکی» و یا «پروسیجر» دارند: برای مثال کارهای جراحی. در این حوزه هنوز علم رباتیک آنقدرها پیشرفت نکرده که منتظر فراگیری قریبالوقوع آن باشیم. اما به آنجا هم خواهیم رسید و اگر روزی برسد که یک ربات هوشمند توانایی انجام عمل جراحی پیدا کند، شخصا ترجیح میدهم توسط یک ربات جراحی بشوم! چون میدانم اشتباه کمتری دارد و دچار خستگی ناشی از کشیک و فشار کاری زیاد نیست. دقیقا همانگونه که مشخص شده احتمال تصادف اتومبیلهای خودران کمتر از راننده واقعی است.»
این پزشک در ادامه این مقاله تصریح کرده است که «یک انسان برای دیدن و یادگیری به زمان نیاز دارد تا تجربه خودش را بالا ببرد. برای همین است که در پزشکی برای همکاران باتجربهمان احترام قائل هستیم. آنها کیسهای زیادی دیدهاند و بههمین خاطر تواناییشان بهطور قابلتوجهی بیشتر شده است. اما کامپیوترها در این مورد بسیار سریعتر از انسانها هستند و میتوانند طی زمانی بسیار کوتاه هزاران و حتی میلیونها تصویر ببینند و بهسرعت تجربه خودشان را بالا ببرند. برای مثال هوش مصنوعی میتواند در کمتر از چند ساعت معادل 10 سال کار یک پزشک تصاویر رادیولوژی مختلف ببیند و تجربه خودش را بالا ببرد. چند سال پیش نتایج یک تحقیق در مجله نیچر منتشر شد که در آن حدود ۱۳۰ هزار تصویر کلینیکی به کامپیوتر نشان دادند که حدود دو هزار تای آنها دارای انواع بیماریهای پوستی بودند. هوش مصنوعی بعد از دیدن این تصاویر، قادر به تشخیص انواع بیماریهای پوستی شده بود. محققان این پژوهش توانایی کامپیوتر را با ۲۱ درماتولوژیست معتبر که همگی در آمریکا جزو اساتید دانشگاهی بودند مقایسه کردند و نتیجه نشان داد که کامپیوتر در تشخیص این بیماریها بهخوبی درماتولوژیستهای باتجربه عمل میکند. اما کامپیوترها بهتدریج قادر به تشخیص بسیاری بیماریهای دیگر نیز خواهند بود. کافی است علائم و نشانههای بیماری را کنار هم بگذارند تا یاد بگیرند چگونه میتوانند به تشخیص برسند. همینالان اگر لیستی از علائم و نشانهها را به ChatGPT بدهید، با دقت بسیار بالایی برایتان تشخیص افتراقیهایش را اعلام میکند. چون همین الان تعداد کتابهای پزشکی که این هوش مصنوعی مطالعه کرده، بسیار بیشتر از هر پزشک واقعی است!»
مثال دیگر کاری است که توسط شرکت Enlitic انجام شده: آنها با کمک «یادگیری عمیق» به کشف ندولهای ریه در تصاویر سیتی اسکن و MRI میپردازند و احتمال بدخیم بودن آنها را بررسی میکنند. مدیرعامل این شرکت که استاد سابق رشته انکولوژی است، ادعا میکند که الگوریتمهای هوش مصنوعی این شرکت در حال حاضر از پزشکان رادیولوژیست بهتر عمل میکنند. او میگوید «یادگیری عمیق میتواند بهسرعت طیف گستردهای از بیماریها را در تمام بدن مدنظر قرار دهد و تمام انواع تصویربرداری فعلی (مانند رادیوگرافیها، سیتیاسکن و…) را پوشش دهد.»
الگوریتمهای یادگیری عمیق، با کمک دیدن کیسهای بیشتر، باتجربهتر میشوند و از این نظر مانند پزشکان عمل میکنند. با این تفاوت که آنها نیاز به استراحت و خواب ندارند. یک پزشک پس از دیدن هزاران تصویر MRI در طول زندگی کاریاش تجربه کسب میکند. اما یک کامپیوتر میتواند درزمانی کوتاه، چند میلیارد تصویر MRI ببیند. امکان بروز اشتباه در انسانها زیاد است اما در مورد کامپیوترها اوضاع بهگونهای دیگر است. ضمن اینکه کامپیوتر بیمار یا خسته نمیشود و دلمشغولیهای دیگری نیز ندارد.
بااینحال برخی از پزشکان با توجه به رشته تخصصی خود نظر دیگری دارند. دکتر«علیرضا سلیمی» رئیس انجمن متخصصان بیهوشی، مراقبتهای ویژه و درد ایران به پژوهشگر ایرنا گفته است: «هوش مصنوعی در حوزههای تصویربرداری و رادیولوژی بیشتر مطرح است. در حوزه مراقبتهای ویژه نیز میتوان از هوش مصنوعی برای تجویز میزان دارو و مدیریت پمپهای تزریق بیماران استفاده کرد. در حوزه تخصصی بیهوشی و مراقبتهای ویژه بهطورکلی برای تعیین میزان دارو به شاخصهای مختلفی مانند وزن، سطح بدن و عمق بیهوشی توجه میشود. هوش مصنوعی میتواند با تحلیل این شاخصها میزان دقیق دارو را تعیین و تزریق کند اما پاسخ بیماران به دارو متفاوت است و ممکن است وضعیت هر فرد با فرد دیگر فرق کند و این موضوعی است که مدیریت آن باتجربه پزشک امکانپذیر است بنابراین هنوز هوش مصنوعی در این زمینه نمیتواند نقش اصلی را داشته باشد.»
وی عنوان کرده است: «هوش مصنوعی میتواند با استفاده از دادههای بزرگ (big data) و الگوریتمهایی که در اختیار دارد پیشبینیهایی درباره آینده وضعیت بیماران ارائه کند. پیشبینیهایی که قطعا میتواند در روند درمان بیماران استفاده شود اما این تکنولوژی هنوز در اوایل مسیر است و باید مسیر تکاملی را طی کند. بااینحال با توجه به حساسیتهای موضوع سلامت نگرانیهایی وجود دارد. مثلاینکه هوش مصنوعی تا چه اندازه میتواند تحلیل درستی از وضعیت بیمار داشته باشد و پیشبینیهای آن تا چه اندازه ایمنی دارد و دقیق و همهجانبه است. لذا هنوز برای استفاده از آن در دنیای پزشکی بااحتیاط پیش میرویم تا ضمن استفاده از آن، خطرات احتمالی به حداقل برسد اما بیشک هوش مصنوعی در آینده پزشکی بسیار تأثیرگذار خواهد بود.»
با توجه به آنچه گفته شد محققان بر این باورند که در عصر جدید درمان، یادگیری هوش مصنوعی و بهرهگیری درست از دستیاران هوش مصنوعی برای پزشکان لازم و ضروری است. در همین راستا نیز بسیاری از دانشکدههای برتر پزشکی در جهان، این دوره را در چارت درسی دانشجویان قرار دادهاند. برنارد چانگ، استاد دانشگاه هاروارد دراینباره گفته است: «نحوه بهرهگیری از اینترنت و فناوریهای دیجیتال نسبت به ۲۰ سال قبل بهشدت تغییر کرده است. بهطوریکه گاهی میتوان خطاهای پزشکی را نیز با این فناوریهای نوین مشخص کرد. گرچه نمیتوان گفت در حال حاضر پزشکان تازه فارغالتحصیل از این فناوری کمک نمیگیرند، اما این بهرهگیری باید حرفهایتر شود تا نتایج قابلاتکا و معتبرتری داشته باشد.»
کمک هوش مصنوعی به پزشکان در تشخیص دقیقتر و ارائه درمانهای مؤثرتر
دیدگاه الهه علی نیا از متخصصان حوزه سلامت دراینباره تأملبرانگیز است. او میگوید: «هوش مصنوعی توانسته است در برخی جنبهها، ازجمله تشخیص بیماریها، پردازش دادههای پزشکی و حتی پیشبینی بیماریها، عملکردی مؤثر و قابلتوجه از خود نشان دهد. این پیشرفتها موجب شده است تا برخی از کارشناسان در مورد نابودی پزشکی باهوش مصنوعی هشدار دهند و نگرانیهایی را در مورد آینده شغلی پزشکان مطرح کنند. بااینحال، نگاهی عمیقتر به این موضوع نشان میدهد که هوش مصنوعی نمیتواند جایگزین کاملی برای تجربه، شهود و تعامل انسانی پزشکان باشد. در حقیقت، هوش مصنوعی میتواند بهعنوان یک ابزار کمکی برای پزشکان عمل کند و به آنها در تشخیص دقیقتر و سریعتر بیماریها و ارائه درمانهای مؤثرتر کمک کند.»
این متخصص در ادامه توضیح میدهد: «هوش مصنوعی با استفاده از الگوریتمهای پیچیده، قادر است اطلاعات پزشکی بیشماری را تجزیهوتحلیل کند و به تشخیصهایی برسد که گاهی از توان انسان خارج است. بهعنوانمثال، در تشخیص بیماریهای پوستی یا تحلیل نمونههای پاتولوژی، هوش مصنوعی اغلب توانسته است دقت بالایی از خود نشان دهد. از سوی دیگر، وابستگی به هوش مصنوعی در حوزه پزشکی میتواند تهدیدی برای تصمیمگیریهای بالینی باشد. تکیه بیشازحد بر فناوری ممکن است منجر به کاهش توانایی تشخیصی و تجزیهوتحلیل انسانی شود.»
تکامل و تحولِ پزشکی در عصر دیجیتال
علی نیا بیان میکند: «هوش مصنوعی با پیشرفتهای خود در تشخیص دقیقتر بیماریها، ارائه راهکارهای درمانی سریعتر و حتی پیشبینی بیماریها پیش از بروز علائم، انقلابی در حوزه پزشکی به پا کرده است. این تکنولوژی میتواند به پزشکان کمک کند تا تصمیمات بهتر و دقیقتری بگیرند. بنابراین، به نظر میرسد که هوش مصنوعی بیشتر در نقش یک ابزار کمکی ظاهر شده و میتواند به ارتقاء کیفیت خدمات پزشکی کمک کند. اگرچه نگرانیهایی در مورد نقش هوش مصنوعی و احتمال نابودی پزشکی با هوش مصنوعی وجود دارد اما وابستگی زیاد به هوش مصنوعی ممکن است به کاهش مهارتهای تشخیصی و تصمیمگیری انسانی منجر شود. این موضوع میتواند بهخصوص در مواردی که نیاز به تجربه بالینی و تعامل انسانی است، مشکلساز باشد. درنهایت، به نظر میرسد که هوش مصنوعی بیشتر نقش تکمیلکنندهای دارد تا جایگزینی برای پزشکان. درحالیکه هوش مصنوعی میتواند به بهبود خدمات پزشکی کمک کند، اما تعامل انسانی، تجربه و تشخیص پزشکان همچنان یک جزء حیاتی در ارائه خدمات پزشکی باقی میماند. لذا، بهجای نابودی، شاهد تکامل و تحولی در نقش پزشکان در عصر دیجیتال خواهیم بود.»
پزشکان مجبورند با فناوریهای نوین همراه شوند
علی نیا بر این باور است که پزشکان باید باتوجه به تغییراتی که در حوزه تکنولوژی رخ داده، خود را بهروز کنند و در این زمینه توضیح میدهد: «آنان باید به مهارتهای دیجیتال مجهز شوند. با توجه به پیشرفتهای سریع در حوزه فناوری، دانش عمیق در مورد ابزارهای دیجیتال و هوش مصنوعی برای تشخیص و درمان بیماریها ضروری است. این شامل درک مکانیزمهای هوش مصنوعی و یادگیری ماشینی، همچنین نحوه تعامل با این سیستمها در محیط بالینی میشود. همچنین اهمیت فراگیری مهارتهای بینرشتهای بیشتر شده است. پزشکان باید در زمینههایی مانند دادهکاوی، آنالیز دادهها و حتی برنامهنویسی دانشی داشته باشند تا بتوانند باهوش مصنوعی بهطور مؤثرتری همکاری کنند. این مهارتها به آنها کمک میکند تا تصمیمات بهتری بر اساس دادههای پیچیده و وسیع بگیرند. توجه به مهارتهای ارتباطی و تعاملی نیز حیاتی است. در دنیایی که ممکن است نگرانیهایی در مورد نابودی پزشکی باهوش مصنوعی وجود داشته باشد، مهارتهای انسانی پزشکان مانند همدلی، ارتباط مؤثر و توانایی برقراری ارتباط با بیماران اهمیت دوچندان پیدا میکند. درنهایت، این آموزشها و مهارتهای جدید نه تنها به پزشکان کمک میکنند تا با چالشهای جدید مواجه شوند، بلکه به آنها امکان میدهد تا در عصر هوش مصنوعی نقش پررنگتری ایفا کنند. بهجای نگرانی از نابودی پزشکی، ما باید به فرصتهایی که هوش مصنوعی برای بهبود کیفیت مراقبتهای بهداشتی فراهم میآورد، توجه کنیم.»
این متخصص خاطرنشان میکند: «این روزها سؤال مهمی که مطرح میشود این است که آیا پزشکان واقعا بیکار خواهند شد؟ جواب این سؤال، نهتنها به تکنولوژی هوش مصنوعی بستگی دارد، بلکه به نحوه استفاده و ادغام آن در سیستمهای بهداشتی نیز مرتبط است. هوش مصنوعی قطعاً در حال تغییر چهره پزشکی است. از تشخیص دقیقتر بیماریها تا توسعه درمانهای شخصیسازی شده. بدون تردید این ابزار فرصتهای جدیدی را برای بهبود مراقبتهای بهداشتی فراهم میکند. اما این به معنای از بین رفتن نقش پزشکان نیست، بلکه نقش آنها را تکامل میبخشد. پزشکان مجبور خواهند بود مهارتهای جدیدی بیاموزند و با فناوریهای نوین همراه شوند تا بتوانند از مزایای این ابزار بهرهمند شوند. بنابراین نابودی پزشکی با هوش مصنوعی یک اغراق است. هوش مصنوعی بیشتر بهعنوان یک ابزار کمکی عمل میکند که میتواند کیفیت و دقت در تشخیص و درمان را بهبود ببخشد، اما نمیتواند جایگزین کاملی برای تواناییهای بشری باشد. ازاینرو ترکیبی از دانش پزشکی سنتی و فناوریهای نوین میتواند راهحلی ایدهآل برای چالشهای پیش روی سیستمهای بهداشتی در آینده باشد.»
