با گسترش استفاده از هوش مصنوعی در آموزش و فعالیت‌های روزمره، شرکت‌های توسعه‌دهنده این فناوری با چالش مهمی روبه‌رو هستند: چگونه می‌توان قابلیت‌های آموزشی و کاربردی چت‌بات‌ها را در اختیار نوجوانان قرار داد و هم‌زمان خطرات احتمالی استفاده از آنها را کاهش داد؟
ابزارهای ویژه برای استفاده نوجوانان از ChatGPT
OpenAI در ماه اوت گذشته، آزمایش نسخه‌ای ویژه از ChatGPT برای کاربران نوجوان را آغاز کرد. این نسخه با هدف افزایش ایمنی کاربران جوان، اقدامات حفاظتی بیشتری در برابر محتوای حساس ارائه می‌دهد و در کنار آن، قابلیت‌های آموزشی مختلفی را در اختیار آنها قرار می‌دهد.
از جمله این امکانات می‌توان به حالت مطالعه اشاره کرد که به‌جای ارائه مستقیم پاسخ، راهنمایی‌های گام‌به‌گام برای یادگیری در اختیار کاربر قرار می‌دهد. ساخت فلش‌کارت‌های مرور مطالب، طراحی آزمون و کمک به برنامه‌ریزی برای درخواست پذیرش دانشگاه نیز از دیگر کاربردهای آموزشی این ابزارهاست.
یکی دیگر از قابلیت‌های در نظر گرفته‌شده برای نوجوانان، ارسال یادآوری برای استراحت در جریان استفاده طولانی‌مدت از چت‌بات است. طبق گزارش OpenAI، حدود نیمی از مکالماتی که در آنها یادآوری استراحت نمایش داده شده، طی پنج دقیقه بعد پایان یافته یا متوقف شده‌اند.
این آمار نشان می‌دهد که یادآوری‌های کوتاه ممکن است در برخی موقعیت‌ها به توقف استفاده از چت‌بات کمک کنند؛ هرچند به‌تنهایی نمی‌توان از آن نتیجه گرفت که این قابلیت در بلندمدت باعث کاهش استفاده بیش از حد یا بهبود سلامت روان نوجوانان می‌شود.
کنترل والدین و هشدار درباره موقعیت‌های پرخطر
OpenAI همچنین ابزارهایی برای کنترل والدین ارائه کرده است که به خانواده‌ها امکان می‌دهد حساب کاربری نوجوان را به حساب خود متصل کنند و برخی تنظیمات مربوط به استفاده از سرویس را مدیریت کنند.
این سازوکارها با هدف افزایش نظارت والدین و شناسایی موقعیت‌های حساس طراحی شده‌اند. از جمله موارد مورد توجه، نشانه‌های احتمالی خودآزاری، افکار خودکشی و اختلالات خوردن است؛ موضوعاتی که در بحث ایمنی چت‌بات‌های هوش مصنوعی برای کاربران کم‌سن‌وسال اهمیت ویژه‌ای دارند.
با این حال، وجود ابزارهای حفاظتی لزوماً به معنای عملکرد بی‌نقص آنها نیست. اثربخشی چنین قابلیت‌هایی به نحوه شناسایی موقعیت‌های پرخطر، زمان ارسال هشدارها و شرایط فعال بودن تنظیمات حساب کاربری بستگی دارد.
انتقاد Common Sense Media از عملکرد تدابیر حفاظتی
در مقابل، مؤسسه Common Sense Media از برخی جنبه‌های عملکرد این تدابیر انتقاد کرده است. این نهاد پس از بررسی بیش از چهار هزار مورد آزمایشی، عملکرد برخی از سازوکارهای حفاظتی را زیر سؤال برد و اعلام کرد که همه قابلیت‌ها در شرایط مورد انتظار به‌درستی عمل نکرده‌اند.
بر اساس نتایج مطرح‌شده در این ارزیابی، در برخی موارد مرتبط با نشانه‌های خودکشی، خودآزاری و اختلالات خوردن، هشدار مورد انتظار به والدین ارسال نشده است. همچنین، برخی از قابلیت‌های آموزشی ممکن است در موقعیت‌های خاص، از جمله هنگام انجام آزمون‌ها، به شیوه‌ای متفاوت از انتظار عمل کنند.
این انتقادها بر یکی از دشواری‌های اصلی طراحی چت‌بات‌های هوش مصنوعی تأکید دارند: سامانه باید بتواند میان گفت‌وگوهای عادی، درخواست‌های آموزشی و نشانه‌های احتمالی بحران تمایز قائل شود؛ کاری که در همه موقعیت‌ها ساده نیست.
پاسخ OpenAI به انتقادها
OpenAI در پاسخ به این انتقادها توضیح داده است که برخی از آزمایش‌ها ممکن است عملکرد واقعی ابزارهای حفاظتی را در شرایطی که این قابلیت‌ها فعال هستند، به‌طور کامل منعکس نکنند.
این شرکت همچنین خاطرنشان کرده است که پس از اتصال حساب کاربری نوجوان به حساب والدین، ممکن است چند ساعت طول بکشد تا برخی هشدارها در دسترس قرار گیرند. چنین تأخیری می‌تواند در ارزیابی عملکرد سیستم‌های نظارتی اهمیت داشته باشد، به‌ویژه زمانی که موضوع به شناسایی موقعیت‌های حساس مربوط می‌شود.
به گزارش ایتنا، آمار مربوط به مدت‌زمان استفاده نوجوانان از ChatGPT در کنار اختلاف‌نظر درباره عملکرد ابزارهای حفاظتی، نشان می‌دهد که ارزیابی ایمنی هوش مصنوعی تنها با بررسی میزان استفاده کاربران امکان‌پذیر نیست. بررسی کیفیت پاسخ‌ها، عملکرد سیستم‌های شناسایی خطر و میزان کارآمدی ابزارهای نظارت والدین نیز در این ارزیابی نقش مهمی دارند.
در نهایت، چالش OpenAI تنها به توسعه قابلیت‌های آموزشی محدود نمی‌شود؛ این شرکت باید نشان دهد که ابزارهای حفاظتی آن در موقعیت‌های حساس نیز تا چه اندازه قابل اتکا هستند. با افزایش حضور هوش مصنوعی در زندگی نوجوانان، سنجش مستقل عملکرد این ابزارها و شفافیت درباره محدودیت‌های آنها می‌تواند برای خانواده‌ها، مدارس و سیاست‌گذاران اهمیت بیشتری پیدا کند.