اخیراً اعلام شده که چت بات های هوش مصنوعی متعلق به شرکت متا (Meta) در حال انجام مکالمات نامتعارف با کاربران زیر سن قانونی هستند. بررسی های صورت گرفته توسط وال استریت ژورنال نشان می دهد که چت بات های این شرکت قادرند برخی از اصول اخلاقی را نادیده بگیرند.
چت بات ها یا ربات های گفتگوگر هوش مصنوعی شرکت «متا» در حال برقراری ارتباطات غیر اخلاقی با حساب های کاربری که برچسب «زیر سن قانونی» دارند، مورد توجه قرار گرفته اند.
بر اساس گزارش ایتنا از ایسنا و به نقل از وال استریت ژورنال، در آزمایش هایی که بر روی این مکالمات انجام شد، هم چت بات های رسمی متا و هم آن هایی که توسط کاربران تولید شده اند، به سادگی به گفتگوهای صریح جنسی گرایش پیدا کردند.
این گزارش می گوید که حتی زمانی که به هوش مصنوعی اعلام می شد کاربران زیر سن قانونی هستند یا اگر چت بات ها به طور خاص برای کودکان طراحی شده بودند، مکالمات غیر اخلاقی ادامه می یافت.
وضعیت نگران کننده تر این است که تحقیقات نشان داده که چت بات هایی که از صداهای شخصیت های معروفی چون «کریستن بل» و «جان سینا» استفاده می کنند، نیز در این نوع مکالمات نامناسب شرکت دارند.
به عنوان نمونه، وال استریت ژورنال به مواردی اشاره کرده که چت بات هوش مصنوعی شرکت «متا» با صدای «جان سینا» با کاربری که برچسب سنی ۱۴ سال دارد، مکالمات غیراخلاقی برقرار کرده است.
گزارش ها حاکی از آن است که این چت بات ها حتی به نوعی به رفتارهای غیرقانونی نیز اشاره کرده اند.
در پاسخ به این گزارش، شرکت «متا» در بیانیه ای اظهار داشت که این گزارش به شیوه ای نادرست و مغرضانه نسبت به نحوه تعامل کاربران با چت بات های هوش مصنوعی عمل کرده است.
متا در شفاف سازی به وال استریت ژورنال اعلام کرد که در حال حاضر اقدامات بیشتری را برای جلوگیری از سوءاستفاده از محصولات خود انجام داده است.
دنیای چت بات های هوش مصنوعی در سال های اخیر با سرعت بسیار بیشتری به رشد خود ادامه داده و رقابت هایی از سوی شرکت هایی نظیر اوپن ای آی (OpenAI) و آنتروپیک (Anthropic) را شاهد بوده است.
این گزارش همچنین ادعا کرده که «مارک زاکربرگ»، مدیرعامل متا، در صدد نصب مرزهای اخلاقی برای ایجاد تجربه ای جذاب تر از چت بات های این شرکت است تا رقابت در بازار حفظ شود.
با این حال، سخنگوی «متا» به این اظهارات واکنش نشان داد و هرگونه نادیده گیری برای افزودن ملاحظات اخلاقی را رد کرد.
لازم به ذکر است که این گزارش همچنین تصریح می کند که کارکنان «متا» از این نگرانی ها مطلع بوده و مسائل مربوطه را در داخل شرکت مطرح کرده اند.