شرکت توسعه دهنده هوش مصنوعی چت جی پی تی که با نام اُپن ای آی (OpenAI) شناخته می شود، تأکید کرده است که این سرویس هوش مصنوعی پیشرفته به مقاصد مخرب و نادرست طراحی نشده است.
بر اساس گزارشی که منتشر کرده، این شرکت اطلاعاتی را ارائه داده که نشان می دهد چگونه کاربران به طرز غیرمجاز از این پلتفرم بهره برداری می کنند. اُپن ای آی به صراحت اعلام کرده که چندین حساب کاربری را به خاطر مظنون بودن در استفاده از چت جی پی تی به شکل های غیرقانونی، مانند اشکال زدایی کد برای تولید محتوا جهت انتشار در بسترهای مختلف، مسدود کرده است.
طبق اطلاعاتی که دیجیتال ترندز به نقل از این شرکت منتشر کرده، اُپن ای آی به تازگی اعلام کرده است که تعداد کاربران فعال هفتگی آن به ۴۰۰ میلیون نفر رسیده است. این شرکت خاطرنشان کرد که در کمتر از سه ماه، بیش از ۱۰۰ میلیون نفر به این شمار افزوده شده اند، چرا که شرکت ها و توسعه دهندگان بیشتری به استفاده از ابزارهای آن تمایل نشان می دهند. با این وجود، چت جی پی تی هنوز هم یک سرویس رایگان و در دسترس جهانی است. به دلیل وجود سوالات مکرر پیرامون جنبه های اخلاقی و عملکرد آن، اُپن ای آی باید به ویژه با این موضوع مواجه شود که نهادهای گوناگونی ممکن است انگیزه هایی پنهان برای استفاده از این پلتفرم داشته باشند.
سیاست های اُپن ای آی به طور قاطع استفاده از خروجی ابزارهای این شرکت برای کلاهبرداری را ممنوع کرده است. در گزارش خود، این شرکت اعلان کرد که شمار زیادی از حساب های کاربری را شناسایی و مسدود کرده است.
اُپن ای آی در گزارشش تصریح کرد که لازم است تا به چالش های ناشی از اقدامات شرورانه ای که در چت جی پی تی انجام می گیرد، بپردازد. این شرکت به بررسی چندین مطالعه موردی پرداخته و اقداماتی برای محدود کردن حساب هایی که از این ابزار برای اهداف مخرب بهره برداری می کنند، اتخاذ کرده است.
به عنوان مثالی، این شرکت یک حساب کاربری را ذکر کرد که مقالات خبری تحقیرآمیز درباره ایالات متحده ایجاد می کرد و یک خبری از آمریکای لاتین را تحت پوشش یک نشریه چینی منتشر می نمود.
مورد دیگری که از کره شمالی نشأت گرفته، ایجاد رزومه ها و پروفایل های شغلی برای متقاضیان کار غیرواقعی بود، که احتمالاً به منظور درخواست های شغلی در شرکت های غربی به کار گرفته شده اند.
تحقیقات نشان داد که حساب هایی که به نظر می رسد از کامبوج فعالیت دارند، از چت جی پی تی برای انجام ترجمه ها و تولید نظرات در چندین بستر رسانه های اجتماعی از جمله ایکس، فیس بوک و اینستاگرام استفاده می کردند.
اُپن ای آی تأیید کرده که یافته های خود را با همتایان صنعتی اش مانند متا به اشتراک گذاشته است، چرا که ممکن است آن ها نیز به صورت ناخواسته تحت تأثیر اقدامات انجام شده در چت جی پی تی قرار بگیرند.