افزایش کاربرد هوش مصنوعی توسط شمار قابل توجهی از پزشکان

با در نظر گرفتن تبلیغات حول هوش مصنوعی و چالش‌هایی که سیستم‌های بهداشتی با آن روبرو هستند، برای هیچکس عجیب نیست که پزشکان و سیاست‌گذاران به طور همزمان هوش مصنوعی را به عنوان ابزاری کلیدی برای مدرن‌سازی و تحول در خدمات بهداشتی در نظر بگیرند.

، پزشکان گزارش داده‌اند که برای تولید گزارش‌های پس از ویزیت، یاری در اتخاذ تصمیمات بالینی و ارائه اطلاعات به بیماران از جمله گزارش‌های ترخیص و طرح‌های درمان از هوش مصنوعی مولد بهره‌برداری می‌کنند.

پزشکان اذعان دارند که هوش مصنوعی مولد (GenAI) یک نوآوری پیشرفته است که اساساً دیدگاه ما را درباره ایمنی بیمار به چالش می‌کشد. هنوز موارد زیادی وجود دارد که باید با آن آشنا شویم تا بتوانیم از آن به طور ایمن در فعالیت‌های بالینی روزمره بهره‌مند شویم.

چالش‌های هوش مصنوعی مولد

برنامه‌های کاربردی مبتنی بر هوش مصنوعی در اصل برای انجام وظایف خاص طراحی و توسعه یافته‌اند. به عنوان مثال، شبکه‌های عصبی یادگیری عمیق به منظور طبقه‌بندی در تصویربرداری و تشخیص ساخته شده‌اند. این گونه سیستم‌ها در تجزیه و تحلیل ماموگرافی به منظور یاری در غربالگری سرطان پستان مؤثر واقع شده‌اند.

اما هوش مصنوعی مولد به صورت خاص برای یک وظیفه محدودی آموزش ندیده و این فناوری‌ها از مدل‌های موسوم به بنیادی بهره می‌برند که قابلیت‌های گسترده‌ای در اختیار دارند. این بدین معناست که آنها می‌توانند متن، تصویر، صدا یا ترکیبی از این موارد را تولید کنند.

این قابلیت‌ها برای کارکردهای متفاوت مثل پاسخگویی به سوالات کاربران، تولید برنامه‌های کد یا ایجاد تصاویر به راحتی تنظیم می‌شوند. به نظر می‌رسد که امکانات تعامل با این نوع هوش مصنوعی تنها به خلاقیت کاربر بستگی دارد.

این موضوع از اهمیت بالایی برخوردار است، زیرا این فناوری متناسب با یک حوزه خاص یا برای یک هدف ویژه طراحی نشده و ما هنوز به درستی نمی‌دانیم پزشکان چگونه می‌توانند به طور مطمئن از آن استفاده کنند. این مسئله دلیلی است بر این واقعیت که هوش مصنوعی مولد در حال حاضر برای پذیرش گسترده در عرصه بهداشت و درمان، هنوز مناسب نیست.

چالش دیگر استفاده از هوش مصنوعی مولد در حوزه بهداشت، پدیده مستند «توهم» (hallucination) است. این توهمات به نتایج بی‌معنی یا غیرواقعی بر مبنای ورودی‌های دریافتی اشاره دارند.

مطالعات متعددی در زمینه ایجاد خلاصه‌های متنی توسط هوش مصنوعی مولد صورت گرفته که نشان می‌دهد ابزارهای گوناگون این فناوری خروجی‌هایی تولید می‌کنند که بر اساس متن، اما با پیوندهای غلط و اطلاعاتی نادرست ایجاد شده است.

این توهمات به دلیل این رخ می‌دهند که هوش مصنوعی مولد بر پایه اصول احتمالی (نداشتن درک انسانی) فعالیت می‌کند و تنها به پیش‌بینی اینکه کدام کلمه در یک زمینه خاص می‌سازد متکی است. این بدان معناست که خروجی‌های تولید شده توسط هوش مصنوعی مولد ممکن است به جای آنکه واقعاً صادقانه باشند، قابل قبول به نظر برسند.

این ویژگی قابل قبول بودن دلیلی دیگر بر عدم آمادگی برای استفاده ایمن از هوش مصنوعی مولد در امور پزشکی روزمره است.

تصور کنید که یک ابزار هوش مصنوعی مولد به مشاوره بیماران گوش می‌دهد و سپس یک یادداشت الکترونیکی تولید می‌کند. از یک سو، این امر می‌تواند به پزشک عمومی یا پرستار کمک کند تا ارتباط بهتری با بیمار برقرار سازد، اما از سوی دیگر، هوش مصنوعی مولد ممکن است به طور بالقوه یادداشت‌هایی تولید کند که بر اساس آنچه به نظرش درست می‌رسد، نه آنچه واقعاً صحیح است، تنظیم شده باشد.

برای نمونه، خلاصه ارائه‌شده توسط هوش مصنوعی مولد ممکن است دردها و علائم بیمار را به شکل نادرستی ارائه کند یا علائمی را به آن اضافه کند که بیمار هرگز از آنها شکایت نکرده است یا اطلاعاتی را در بر بگیرد که نه بیمار و نه پزشک هیچ‌گاه اشاره‌ای به آنها نکرده‌اند.

بنابراین پزشکان و پرستاران موظفند تمام یادداشت‌های تولیدشده توسط هوش مصنوعی را با دقت و تیزبینی بررسی کنند و از حافظه‌ای قوی بهره‌مند شوند تا بتوانند اطلاعات حقیقی را از اطلاعات قابل قبول، اما غلط تفکیک کنند.

این موضوع امکان‌پذیر است، به ویژه در یک محیط درمانی سنتی که پزشک عمومی بیمار را به خوبی می‌شناسد، اما در یک سیستم بهداشتی عمومی که بیماران معمولاً توسط کارکنان مختلف مراقبت درمان می‌شوند، هرگونه اشتباه در یادداشت‌ها می‌تواند خطرات قابل توجهی از جمله تأخیر در درمان، خطر تشخیص نادرست و آسیب جدی به سلامت بیماران را به همراه داشته باشد.

خطرات ناشی از توهمات بسیار چشمگیر است، با این حال پژوهشگران و توسعه‌دهندگان در حال حاضر در تلاشند تا احتمال بروز این توهمات در هوش مصنوعی مولد را کاهش دهند.

ایمنی بیماران

یکی دیگر از دلایلی که نشان می‌دهد استفاده از هوش مصنوعی مولد در حوزه بهداشت بسیار زود است، این است که ایمنی بیماران وابسته به تعاملات با هوش مصنوعی برای تعیین کارایی آن در یک زمینه خاص و محیط مربوط می‌باشد. بررسی نحوه کار این فناوری در همکاری با مردم، تأثیر آن بر قوانین، فشارها و فرهنگ و اولویت‌ها در یک سیستم گسترده بهداشتی نشان‌دهنده این واقعیت است. چنین دیدگاهی می‌تواند مشخص کند که آیا استفاده از هوش مصنوعی مولد به شکل امنی انجام می‌شود یا خیر.

به دلیل این که هوش مصنوعی مولد برای کاربری خاصی طراحی نشده است، به قابلیت انطباق نیاز دارد و می‌تواند به شیوه‌های پیش بینی‌نشده‌ای مورد استفاده قرار گیرد. همچنین با توجه به اینکه توسعه‌دهندگان مرتبا در حال به‌روزرسانی فناوری‌های خود و افزودن قابلیت‌های عمومی جدید هستند، رفتار برنامه‌های هوش مصنوعی مولد نیز دستخوش تغییر خواهد شد.

حتی اگر به ظاهر این فناوری ایمن و به‌درستی عمل کند، بسته به زمینه‌های استفاده ممکن است هنوز خطراتی وجود داشته باشد.

به‌عنوان مثال، معرفی عوامل مکالمه هوش مصنوعی مولد برای تریاژ می‌تواند بر تمایل بیماران به تعامل با سیستم‌های بهداشتی تاثیر بگذارد. افرادی که از سواد دیجیتال پایینی برخوردارند، بیمارانی که زبان مادری‌شان انگلیسی نیست و بیمارانی که توانایی صحبت کردن ندارند ممکن است با چالش‌هایی در استفاده از هوش مصنوعی مولد مواجه شوند. بنابراین علی‌رغم اینکه ممکن است این فناوری به‌طور اصولی عملکرد خوبی داشته باشد، اما اگر برای همه کاربران به یکسان کار نکند، ممکن است مشکلاتی جدی به همراه داشته باشد.

مهم است که پیش‌بینی خطرات مرتبط با هوش مصنوعی مولد با استفاده از رویکردهای آنالیز ایمنی سنتی دشوارتر است. این رویکردها بر درک نحوه بروز اختلال در این فناوری و اثرات آن بر زمینه‌های خاص تمرکز می‌کنند.

در نهایت، حوزه بهداشت و درمان می‌تواند از پذیرش هوش مصنوعی مولد و دیگر ابزارهای هوش مصنوعی بهره‌مند شود، اما قبل از اینکه این فناوری به طور گسترده در خدمات بهداشتی قابل استفاده قرار گیرد، تضمین ایمنی و تنظیم آن باید به پیشرفت‌ها و روش‌های به‌کارگیری این فناوری پاسخگو باشد.

علاوه بر این، توسعه‌دهندگان ابزارها و تنظیم‌کننده‌های هوش مصنوعی مولد باید با جوامعی همکاری کنند که از این فناوری‌ها استفاده کرده تا ابزارهایی ایجاد کنند که بتوانند به­طور ایمن و مرتب در عمل بالینی مورد استفاده قرار گیرند.