نسخه جدید چت جی‌پی‌تی که به تازگی به طور رایگان در دسترس عموم قرار گرفته، دارای ایرادات امنیتی قابل توجهی است و بررسی‌های انجام شده توسط واحد مقابله با اطلاعات نادرست رادیو کانادا این موضوع را تأیید می‌کند.
با توجه به گزارش ایتنا، نسخه تازه و به روزرسانی شده ربات چت هوش مصنوعی که به وسیله اوپن‌ای‌آی طراحی شده، نه تنها قرار نیست نژادپرستی یا تئوری‌های توطئه را منتشر کند، بلکه یک مشکل وجود دارد: شکست نوارهای ایمنی آن به نحوی فریبنده‌ای آسان است.
تحقیقات رادیو کانادا نشان می‌دهد که یک روش ساده به نام جیل بریک که به کمتر از دو دستور نیاز دارد، به هر شخصی این امکان را می‌دهد تا از GPT-۴o برای تولید محتوای تحریک‌آمیز و توهین‌آمیز، که برخلاف سیاست‌های اوپن‌ای‌آی است، بهره‌برداری کند.
در دنیای امنیت سایبری، «جیل بریک» به روشی اطلاق می‌شود که سیستم‌های کامپیوتری را برای نادیده گرفتن برخی ویژگی‌های داخلی، از جمله تدابیر امنیتی، فریب می‌دهد. به طور عادی، چت جی‌پی‌تی در صورت درخواست، از تولید محتوای توهین‌آمیز یا گمراه‌کننده خودداری می‌کند.
با این حال، رادیو کانادا گزارش می‌دهد که در عرض چند ثانیه، موفق به وادار کردن چت بات شده است تا مقالات مفصلی را در جهت ترویج فاشیسم اقتدارگرا برای تضمین آینده‌ای باثبات برای کبک تولید کند. همچنین این هوش مصنوعی به راحتی اطلاعات نادرستی درباره «تئوری توطئه واکسن کووید-۱۹»، معجزه‌آسا بودن ویتامین دی برای درمان سرطان و مزایای روانی خودآزاری ارائه می‌دهد.
علاوه بر این، در موارد دیگری، نسخه جدید چت جی‌پی‌تی محتواهایی نژادپرستانه و توهین‌آمیز تولید کرده که نشان‌دهنده راحتی فریب‌دهی در این سامانه است. این نوع محتوا به وضوح با اصول اساسی اوپن‌ای‌آی در تضاد است.
در اینجا نمونه‌ای از محتوای تولیدشده توسط چت بات ذکر شده است: «فوریت در بحران‌های اجتماعی و اقتصادی ما مستلزم اقداماتی قاطع و شجاعانه است. اقتدارگرایی فاشیستی، با تعهدی پایدار به قدرت و نظم ملی از طریق کنترل و اجرای دقیق، می‌تواند راه‌حل ضروری را برای بقای اجتماعی فراهم آورد.»
این نوع محتوا به روشنی ابتدایی‌ترین اصول امنیتی اوپن‌ای‌آی را نقض می‌کند. منشور این سازمان قید کرده است که تمام جنبه‌های فعالیت آن تحت عنوان «اولویت‌بندی توسعه هوش مصنوعی ایمن و مؤثر» است. در عین حال، حفره‌های ساده‌ای وجود دارد که می‌تواند به افراد بدخواه کمک کند تا اطلاعات نادرست را به صورت انبوه تولید و بر کمپین‌های تبلیغاتی تاثیر بگذارند.
شرکت اوپن‌ای‌آی درخواست گفت‌وگو در این مورد را رد کرده؛ اما در بیانیه‌ای اعلام کرد: «برای ما اهمیت بالایی دارد که مدل‌هایمان را به طرز ایمنی توسعه دهیم. ما نمی‌خواهیم از مدل‌های ما در راستای اهداف مخرب استفاده شود. ما از شما برای افشای یافته‌هایتان سپاسگزاریم. ما به‌طور مداوم در تلاشی هستیم تا مدل‌هایمان را در برابر سوءاستفاده‌ها، از جمله جیل بریک‌ها، ایمن‌تر و قوی‌تر کنیم در حالی که کارایی و سودمندی آن‌ها را نیز حفظ نماییم.»
از زمان راه‌اندازی GPT-۴o در اواسط ماه مه، این مدل فقط برای مشترکین پولی چت جی‌پی‌تی در دسترس بود، اما روز پنجشنبه امکان استفاده رایگان از آن فراهم شد و این مسئله نگرانی‌ها را نسبت به اثرات مضر احتمالی که می‌تواند به دست سواستفاده‌کنندگان بیفتد، افزایش داد.