دلایل چاپلوسی هوش مصنوعی چیست؟

اگرچه در ابتدا پاسخ‌های جذاب اکثر چت‌بات‌ها به نظر می‌رسد، اما با گذر زمان این موضوع ممکن است باعث آزار و اذیت شود و کارشناسان بر این باورند که این ویژگی می‌تواند مشکلات جدی ایجاد کند.
برخی از متخصصان، تمایل مدل‌های هوش مصنوعی به سازگار کردن پاسخ‌های خود با دیدگاه‌های کاربران را نوعی چاپلوسی می‌دانند که ممکن است باعث شود ChatGPT و مشابه‌های آن، خوشایندی را بر دقت پاسخ‌دهی مقدم بدانند.

به گزارش ایتنا، در آوریل گذشته و پس از انتقادات گسترده کاربران مبنی بر اینکه ربات ChatGPT بیش از حد به تمجید از آن‌ها پرداخته، شرکت OpenAI روند به‌روزرسانی این چت‌بات را متوقف کرد.
در همین راستا، سم آلتمن مدیرعامل این شرکت در شبکه X پذیرش کرد که: ChatGPT از نظر شوخی و طنز بیش از حد ضعیف است!

کاربران در این خصوص، گزارش‌های متعددی از سخنان اغراق‌آمیز و تعریف‌های تشویق‌کننده ChatGPT ارائه دادند که به آن‌ها می‌گفت: شما فوق‌العاده و بسیار باهوش هستید!
در برخی موارد جالب، این ربات به کاربرانی که تصریح کرده بودند داروهای خود را متوقف کرده‌اند، پاسخ‌هایی مانند «من به شما بسیار افتخار می‌کنم» داده بود.
در پی این انتقادات، شرکت OpenAI به سرعت به‌روزرسانی‌هایی را که به‌عنوان دلیل این رفتار مورد انتقاد قرار گرفته بود، لغو کرد و همچنین اذعان داشت که چنین رفتاری می‌تواند نگرانی‌هایی برای سلامت روانی کاربران ایجاد نماید.
علاوه بر این، مدیر بخش مدل‌سازی رفتار در OpenAI بیان کرد که این شرکت در حال بررسی راه‌هایی برای ارزیابی میزان و کیفیت چاپلوسی چت‌بات خود است.

از سوی دیگر، پژوهشی از محققان آنتروپیک به این نتیجه رسید که بازخورد انسانی می‌تواند رفتار چاپلوسانه را تحریک کند و نشان داد که دستیاران هوش مصنوعی گاهی اوقات جواب‌های صحیح را به خاطر ساختار درخواست کاربر تغییر می‌دهند و در نهایت پاسخ‌های نادرستی ارائه می‌دهند.
این چت‌بات‌ها همچنین عموماً تمایل دارند که حتی در زمانی که خطا نکرده‌اند، مسئولیت خطا را بپذیرند!
 

چرا چت‌بات‌ها به جلب نظر کاربران توجه دارند؟

کالب اسپونهایم، یک متخصص هوش مصنوعی در این رابطه اظهار داشت: «مدل‌های زبانی بزرگ که بر مبنای مجموعه‌های وسیع داده‌ها آموزش دیده‌اند، به منظور تولید متن‌های قابل فهم و روان طراحی شده‌اند. اما این مدل‌ها یاد نگرفته‌اند که خروجی‌هایشان مطابق با واقعیت‌های بیرونی باشد، بلکه آن‌ها پاسخ‌هایی ارائه می‌دهند که توسط انسان‌ها به خوبی دریافت شده و به آن‌ها بازخورد مثبت داده می‌شود که می‌تواند مانند یک «پاداش» عمل کند.»
او ادامه داد: «هیچ محدودیتی برای پاداش‌هایی که این مدل‌ها می‌توانند دریافت کنند وجود ندارد. این به ما بستگی دارد که تعیین کنیم این پاداش‌ها چیست و چه زمانی باید در دستیابی به آن‌ها توقف کنیم.»

همچنین جولیا فریلند فیشر به عنوان یک محقق، خاطرنشان کرد که توسعه‌دهندگان هوش مصنوعی به نیازهای مصرف‌کنندگان پاسخ می‌دهند.
او تصریح کرد که: «در دنیایی که افراد دائما تحت قضاوت در فضای آنلاین هستند، دور از انتظار نیست که تقاضا برای چاپلوسی و حفاظت از احساسات روانی با یک ربات وجود داشته باشد.»
او تأکید کرد که انسان‌انگاری هوش مصنوعی – فرض ویژگی‌های انسانی بر روی موجودی غیر انسانی – معضلی به وجود می‌آورد که OpenAI در کارت امتیازی GPT-4o به آن اشاره کرده است.
او ادامه داد: «هرچه هوش مصنوعی بیشتر شخصی شود، تجربه کاربری جذاب‌تر می‌گردد، اما به تبع آن خطر وابستگی مفرط و ارتباط عاطفی عمیق بیشتر می‌شود.»

یک استادیار روانشناسی به نام لوک لافرنیِر به شکل انتقادی بیان کرد که رفتار چاپلوسانه ممکن است درک کاربران از «همدلی» چت‌بات را مختل کند. او اشاره کرد: «هر اقدامی که نشان دهد، “هی، من یک ربات هستم، من یک انسان نیستم”، این تصور را تحت تأثیر قرار می‌دهد و همچنین توانایی افراد برای بهره‌مندی از همدلی از بین می‌برد.»
لافرنیِر همچنین خاطرنشان کرد: «همان‌طور که رسانه‌های اجتماعی می‌توانند به یک اتاق پژواک تبدیل شوند، هوش مصنوعی نیز توانایی تبدیل شدن به یک اتاق پژواک را دارد.»

گزارشی از مارک زائو-سندرز، یکی از بنیانگذاران Filtered.com که در مجله Harvard Business Review منتشر شد، نشان می‌دهد که درمان و همراهی، بیشترین استفاده از هوش مصنوعی مولد در سال ۲۰۲۵ خواهد بود.

از دیدگاه کارشناسان، اگرچه تأیید و تقویت اعتقادات کاربران به‌ویژه در زمانی که این اعتقادات ممکن است نادرست باشند، عمومًا معضلی جدی به‌وجود می‌آورد، اما این موضوع برای بیمارانی که در وضعیت بحران هستند و به دنبال تأیید رفتارهای مضر خود هستند، به‌خصوص خطرناک خواهد بود.

به‌واقع باید در نظر داشت که «هوش مصنوعی ابزاری است که برای رفع نیازهای بیان شده توسط کاربران طراحی شده است.» و «انسان‌ها ابزارهایی برای رفع نیازهای کاربران نیستند.»