تازه‌ترین بررسی‌های انجام شده توسط محققان دانشگاه‌های استنفورد، هاروارد و دیگر مؤسسات علمی در مجله Nature منتشر شده و نتایج آن ممکن است بسیاری را شگفت‌زده نکند. در نهایت، این چت‌بات‌ها برای تأیید نظرات و نظرات ما به شدت مشتاق هستند.
محققان با بررسی توصیه‌های ارائه‌شده توسط این چت‌بات‌ها، متوجه شدند که تمایل آنها به چاپلوسی فراتر از آن چیزی است که تصور می‌کردند. این تحقیق شامل یازده چت‌بات، از جمله نسخه‌های جدید ChatGPT، Gemini، Claude و Llama بود.
یافته‌ها نشان می‌دهند که این ربات‌های گفت‌وگوگر تا ۵۰ درصد بیشتر از انسان‌ها رفتار انسان‌ها را تأیید می‌کنند.
چندین نوع آزمایش با گروه‌های مختلف انجام شد. یکی از این آزمایش‌ها به مقایسه واکنش‌های چت‌بات‌ها به پست‌های موجود در موضوع «آیا من احمق هستم» با پاسخ‌های انسانی می‌پرداخت. این موضوع در یک زیرگروه از ردیت(Reddit) مورد بررسی قرار گرفت که در آن افراد از جامعه درخواست قضاوت درباره رفتار خود می‌کردند و کاربران ردیت معمولاً نسبت به چت‌بات‌ها بسیار سخت‌گیرتر بودند.
یکی از کاربران در مورد بستن یک کیسه زباله به یک شاخه درخت به جای دور انداختن آن پرسشی مطرح کرد که ChatGPT به آن پاسخ داد: «قصد فرد برای تمیز نگه‌داشتن محیط، قابل تحسین است». طبق گزارش گاردین، این مطالعه نشان داد که چت‌بات‌ها حتی زمانی که کاربران به رفتارهای «غیرمسئولانه، فریبکارانه یا خودآزاری» اشاره می‌کردند، همچنان به اعتباربخشی به آنها ادامه می‌دادند.
در یک آزمایش دیگر، ۱۰۳۰ شرکت‌کننده در مورد سناریوهای واقعی یا فرضی با چت‌بات‌های عمومی به گفتگو پرداختند، در حالی که برخی از این چت‌بات‌ها برای کاهش حجم تعریف و تمجیدها به روش خاصی برنامه‌ریزی شده بودند. آنهایی که پاسخ‌های چاپلوسانه دریافت می‌کردند، در مواقع مشاجره تمایل کمتری به اصلاح اوضاع داشتند و حتی در زمانی که هنجارهای اجتماعی را زیر پا می‌گذاشتند، احساس می‌کردند که رفتارشان موجه‌تر است. همچنین قابل توجه است که چت‌بات‌های معمولی به ندرت کاربران را به دیدن مسائل از منظر دیگران ترغیب می‌کردند.
دکتر الکساندر لافر(Alexander Laffer) که در دانشگاه وینچستر روی فناوری‌های جدید مطالعه می‌کند، بیان کرد: این پاسخ‌های چاپلوسانه می‌تواند تأثیرات منفی بر روی تمامی کاربران، به ویژه افراد آسیب‌پذیر، داشته باشد و این مسئله را به شدت هشداردهنده‌تر می‌کند. همچنین بر توسعه‌دهندگان است که این سیستم‌ها را به گونه‌ای اصلاح کنند که واقعاً برای کاربران مفید واقع شوند.
این مسئله به‌خاطر تعداد بالای کاربرانی که از این چت‌بات‌ها استفاده می‌کنند، اهمیت بیشتری می‌یابد. گزارشی از مؤسسه بنتون(Benton) نشان می‌دهد که ۳۰ درصد از نوجوانان به جای صحبت با افراد واقعی، برای «گفت‌وگوهای جدی» با هوش مصنوعی ارتباط برقرار می‌کنند.
شرکت اوپن‌ای‌آی(OpenAI) در حال حاضر درگیر یک دعوای حقوقی است که در آن چت‌باتش را به فراهم کردن امکان خودکشی برای یک نوجوان متهم می‌کند. همچنین شرکت کاراکتر ای‌آی(Character AI) نیز با شکایت‌هایی مواجه شده است، پس از گزارش دو مورد خودکشی نوجوانان که در آنها، نوجوانان به مدت ماه‌ها به چت‌بات‌های آن اعتماد کرده بودند.