شرکت توسعه دهنده ی هوش مصنوعی چت جی پی تی با نام اُپن ای آی (OpenAI) به وضوح اعلام کرده است که پلتفرم هوش مصنوعی پیشرفته ی آن به هیچ وجه برای مقاصد مخرب و سوءاستفاده طراحی نشده است.
این شرکت به تازگی گزارشی را منتشر ساخته که شامل جزئیات اقداماتی است که برای شناسایی و بررسی نحوه ی استفاده ی غلط کاربران از این پلتفرم صورت گرفته است. اُپن ای آی تأکید کرده است که در راستای مقابله با سوءاستفاده ها، اقدام به حذف ده ها حساب کاربری به دلیل استفاده ی نامناسب، نظیر اشکال زدایی کد برای تولید محتوا به منظور انتشار در پلتفرم های مختلف، کرده است.
به نقل از دیجیتال ترندز، این شرکت همچنین به تازگی اعلام کرده که به ۴۰۰ میلیون کاربر فعال هفتگی دست پیدا کرده است. اُپن ای آی خاطرنشان کرد که در کمتر از سه ماه، بیش از ۱۰۰ میلیون کاربر به تعداد کاربران آن اضافه شده زیرا تعداد بیشتری از شرکت ها و توسعه دهندگان به بهره برداری از ابزارهای آن روی آورده اند. با این حال، چت جی پی تی هنوز هم به عنوان یک سرویس رایگان در دسترس افراد در سراسر جهان قرار دارد. به دلیل اینکه جنبه های اخلاقی و کارکردهای آن پیش تر بارها مورد پرسش قرار گرفته، اُپن ای آی باید به واقعیت هایی تن دهد که برخی نهادها به انگیزه های پنهانی برای بهره برداری از این پلتفرم توجه دارند.
سیاست های این شرکت به طور جدی استفاده از خروجی های ابزارهای اُپن ای آی را برای مقاصد کلاهبرداری منع کرده است. در گزارش خود، اشاره کرد که تعداد زیادی حساب کاربری را شناسایی و مسدود کرده است.
در این گزارش، اُپن ای آی توضیح داده که باید با آخرین رویه های شریرانه ای که در چت جی پی تی دیده می شود مقابله کند. این شرکت چندین مطالعه ی موردی را بررسی کرده و اقدامات لازم را با ممنوعیت حساب هایی که از این ابزار برای مقاصد غیرقانونی استفاده کرده اند، انجام داده است.
به عنوان یک نمونه، این شرکت یک حساب کاربری را شناسایی کرده که مقالات خبری تحقیرآمیز در مورد ایالات متحده را تولید می کند و آن خبری از آمریکای لاتین است که تحت پوشش یک نشریه ی چینی قرار دارد.
در مثال دیگری که به کره شمالی مرتبط می شود، حسابی برای ایجاد رزومه و پروفایل شغلی برای متقاضیان شغل غیرواقعی به کار می رفت. این حساب ممکن است هدفش درخواست شغل در شرکت های غربی بوده باشد.
یک مطالعه ی دیگر نشان داد که حساب هایی که احتمالاً از کامبوج فعال هستند، چت جی پی تی را برای ترجمه و ایجاد نظرات در چندین شبکه ی اجتماعی، از جمله ایکس، فیس بوک و اینستاگرام به کار می برند.
اُپن ای آی تأیید کرده که یافته های خود را با دیگر فعالان این صنعت، مانند متا، به اشتراک گذاشته است، زیرا ممکن است آن ها نیز به طور ناخواسته تحت تأثیر اقداماتی که در چت جی پی تی انجام شده، قرار گیرند.