یافتههای یک تحقیق و نظرسنجی که از هزار پزشک عمومی انجام شده، نشان میدهد که از هر پنج پزشک در بریتانیا، یک نفر به استفاده از فناوریهای هوش مصنوعی مولد نظیر ChatGPT یا جمینای گوگل به منظور یاری رساندن در تمرینات و تشخیصهای پزشکی روی آورده است.
با توجه به نوآوریها در عرصه هوش مصنوعی و چالشهایی که سیستمهای بهداشتی با آنها مواجهند، نه تنها پزشکان، بلکه سیاستگذاران نیز به طرز شگفتانگیزی هوش مصنوعی را به عنوان ابزاری حیاتی برای نوآوری و دگرگونی در خدمات بهداشتی میدانند.
بسیاری از پزشکان اذعان دارند که برای تهیه گزارشهای پس از ویزیت، کمک در اتخاذ تصمیمات بالینی و ارائه اطلاعات به بیماران از جمله گزارشهای ترخیص و برنامههای درمانی، به هوش مصنوعی مولد متوسل میشوند.
پزشکان میگویند که نسل جدید هوش مصنوعی (GenAI) نمونهای نوین است که به طرز شگرفی تصور ما را درباره ایمنی بیمار به چالش میکشد. با این حال، هنوز مسائلی وجود دارد که باید پیش از استفاده امن از آن در تمرینات بالینی روزمره بررسی شود.
چالشهای هوش مصنوعی مولد
برنامههای کاربردی هوش مصنوعی در اصل برای انجام وظایف خاص طراحی شدهاند. به عنوان مثال، شبکههای عصبی یادگیری عمیق به منظور طبقهبندی و تشخیص در تصویربرداری پزشکی ساخته شدهاند و چنین سیستمهایی در تجزیه و تحلیل ماموگرافی به منظور کمک در غربالگری سرطان پستان موثر واقع شدهاند.
اما در مورد هوش مصنوعی مولد، این ابزارها برای انجام یک فعالیت خاص آموزش دیدهاند. این فناوریها بر مبنای مدلهای بنیادی طراحی شدهاند که قابلیتهای عمومی را در بر میگیرند و به همین دلیل میتوانند متن، تصویر، صدا یا ترکیبی از این اقلام را به تولید برسانند.
به دنبال این قابلیتها، ابزارهای مختلفی برای پاسخگویی به سؤالات کاربران، تولید کد یا ایجاد تصاویر به کار گرفته میشود، و به نظر میرسد که امکانات تعامل با این نوع هوش مصنوعی تنها به تخیل کاربر محدود است.
این نکته از اهمیت بالایی برخوردار است زیرا این فناوری به طور خاص برای استفاده در یک دامنه مشخص توسعه نیافته است، بنابراین هنوز کاملاً مشخص نیست که پزشکان چگونه میتوانند به شیوهای ایمن از آن بهرهمند شوند. لذا میتوان گفت که هوش مصنوعی مولد هنوز برای استفاده عمومی در حوزه مراقبتهای بهداشتی مناسب نیست.
علاوه بر این، یکی دیگر از چالشهای مطرح در استفاده از هوش مصنوعی مولد در حوزه بهداشت، پدیده مستند به نام «توهم» (hallucination) است. این توهمات به نتایج بیمعنی یا غیرواقعی اشاره دارند که بر اساس دادههای ورودی تولید میشوند.
تحقیقات انجام شده در زمینه ایجاد خلاصههای متنی توسط هوش مصنوعی مولد نشان میدهد که ابزارهای مختلف میتوانند خروجیهایی تولید کنند که با آنچه در متن اصلی وجود دارد همخوانی نداشته باشد یا با اطلاعات نادرست پیوند ایجاد کند.
این توهمات از آنجایی شکل میگیرند که هوش مصنوعی مولد بر اساس اصول احتمالی (مانند پیشبینی این که کدام کلمه در یک متن خاص به کار خواهد رفت) عمل میکند، و به معنای واقعی کلمه مبتنی بر «درک» انسانی نیست. به همین خاطر، خروجیهای تولیدشده لزوماً صادقانه نیستند بلکه تنها از لحاظ منطقی قابل قبول میباشند.
این امکان درستی یکی دیگر از دلایل این است که استفاده ایمن از هوش مصنوعی مولد در پروسههای پزشکی معمولی هنوز به زودی عملی نیست.
تصور کنید که یک ابزار هوش مصنوعی مولد به مشاوره بیمار گوش میدهد و سپس یک یادداشت الکترونیکی خلاصه تولید میکند. در یک سو، این امر به پزشک عمومی یا پرستار کمک میکند تا بهتر با بیمار تعامل داشته باشد، اما در سوی دیگر، هوش مصنوعی مولد ممکن است یادداشتهایی را بر اساس آنچه که به نظرش منطقی میرسد، ایجاد کند، نه بر اساس واقعیت.
به عنوان نمونه، چنین خلاصهای که به دست هوش مصنوعی مولد تهیه میشود، ممکن است شدت علائم بیمار را تحریف کند یا علائمی را به آن اضافه کند که بیمار هرگز به آنها اشاره نکرده است، یا شامل اطلاعاتی باشد که بیمار یا پزشک هیچیک هرگز مطرح نکردهاند.
پزشکان و پرستاران باید تمام یادداشتهای ایجاد شده توسط هوش مصنوعی را با دقت و توجه ویژه بررسی کنند و بایستی حافظهای قوی داشته باشند تا اطلاعات واقعی را از دادههای غیرواقعی و تحریفشده تفکیک کنند.
این شاید در یک محیط سنتی برای پزشکان خانواده که بیمار را به خوبی میشناسند مناسب باشد، اما در سیستم بهداشتی عمومی که بیماران اغلب به وسیله افراد مختلف تحت درمان قرار میگیرند، هر گونه نادرستی در یادداشتها میتواند پیامدهای قابل توجهی مانند تأخیر در درمان، درمان نادرست یا تشخیص اشتباه را برای سلامتی آنها به بار آورد.
خطرات مرتبط با توهمات قابل توجه است، اما باید ذکر کرد که محققان و توسعهدهندگان در حال حاضر در حال تلاش برای کاهش احتمال وقوع این توهمات در هوش مصنوعی مولد هستند.
ایمنی بیماران
یکی از دیگر دلایل این که هنوز زود است تا از هوش مصنوعی مولد در مراقبتهای بهداشتی بهره ببریم، این واقعیت است که ایمنی بیماران به شیوه تعامل با این فناوری بستگی دارد تا عملکرد آن در یک زمینه خاص و در محیطهای مشخص سنجیده شود. چگونگی کارکرد این فناوری با مردم، انطباق آن با قوانین و فشارهای محیطی، و اولویتهای فرهنگی در یک سیستم سلامت گستردهتر این مسأله را روشن میکند. این دیدگاه سیستماتیک کمک میکند تا تعیین شود که آیا استفاده از هوش مصنوعی مولد ایمن است یا خیر.
با توجه به اینکه هوش مصنوعی مولد به طور خاص برای یک کاربرد طراحی نشده است، به این معنی که قابل انطباق و سازگاری است و میتواند در روشهایی بهرهبرداری شود که ما به طور کامل قادر به پیشبینی آن نیستیم. افزون بر این، توسعهدهندگان به طور مرتب در حال بروزرسانی فناوری خود هستند و قابلیتهای جدیدی به آن افزوده میشود که ممکن است رفتار این برنامه هوش مصنوعی را تغییر دهد.
علاوه بر این، حتی اگر این فناوری به طور ظاهری ایمن به نظر برسد و همانند وظایف اصلیاش عمل کند، همچنان بستگی به زمینه کاربرد خود دارد و احتمال خطر وجود دارد.
به عنوان مثال، معرفی عوامل مکالمه هوش مصنوعی مولد برای تریاژ میتواند بر تمایل بیماران مختلف به تعامل با سیستم مراقبتهای بهداشتی تأثیر بگذارد. بیمارانی که تسلط کمتری به فناوری دارند، کسانی که زبان اصلیشان انگلیسی نیست، و بیمارانی که قادر به گویش نیستند، ممکن است در استفاده از هوش مصنوعی مولد با دشواری روبهرو شوند. بنابراین اگرچه این فناوری به طور اصولی کار میکند، اما اگر این فناوری به طور یکسان برای همه کاربران کار نکند، میتواند آسیبزا باشد.
نکته کلیدی این است که پیشبینی خطرات ناشی از هوش مصنوعی مولد از طریق رویکردهای سنتی تحلیلی ایمنی بسیار دشوارتر است. این رویکردها به درک چگونگی ایجاد اختلال در این فناوری و تأثیر آن بر زمینههای خاص میپردازند.
در نهایت، بخش بهداشت میتواند با پذیرش هوش مصنوعی مولد و دیگر فناوریهای این حوزه به بهرهوری بالاتری دست یابد، ولی برای این که این فناوری بتواند به طور عمومیتر در این حوزه مورد استفاده قرار گیرد، الزامات ایمنی و نظارتی نیازمند توجه به پیشرفتها در چگونگی و مکان استفاده از این فناوری هستند.
از سوی دیگر، ضروری است که توسعهدهندگان ابزارها و تنظیمکنندگان هوش مصنوعی مولد با جوامعی که از این فناوریها بهرهبرداری میکنند، تعامل داشته باشند تا ابزارهای مناسبی برای استفاده ایمن و مداوم در محیطهای بالینی توسعه دهند.