شرکت اوپن‌ای‌آی که سازنده ربات مکالمه‌گر هوش مصنوعی ChatGPT است، اعلام کرده که در پی ایجاد نشانه‌گذاری (واترمارک) برای متن‌های تولیدشده توسط این ربات است، تا بتواند استفاده نا به جا از آن در تقلب‌های تحصیلی را شناسایی کند.
این شرکت در حال آماده‌سازی ابزاری نوین است که در ارائه آن تا کنون تردید داشته است.
بر اساس نقل قولی از وال استریت ژورنال، اوپن‌ای‌آی در حال توسعه ابزاری است که قادر است مقالات تولید شده توسط ChatGPT را با دقت بالایی شناسایی کند.
این شرکت اطلاعات کمی در خصوص تحقیقات خود پیرامون نشانه‌گذاری متون تولیدشده با ChatGPT و دلایل وقوع این امر منتشر کرده است.
طبق گزارش وال استریت ژورنال، بحث‌های پیرامون ضرورت انتشار این ابزار، علیرغم آماده بودن آن، به تعویق افتاده است.
در به‌روزرسانی‌ای که این شرکت روز گذشته ارائه کرد، بیان شد: تیم‌های ما در حال توسعه روشی برای نشانه‌گذاری متن هستند و همچنان در پی بررسی سایر گزینه‌ها هستیم.
به گفته این شرکت، نشانه‌گذاری یکی از گزینه‌های مختلفی است که شامل طبقه‌بندی و ابرداده‌ها می‌شود و در چارچوب «تحقیقات وسیع درباره منشأ متن» بررسی می‌شود.
اوپن‌ای‌آی اعلام کرد که این ابزار در برخی موقعیت‌ها «بسیار دقیق» عمل کرده، اما در مواجهه با گونه‌های خاصی از دستکاری، نظیر استفاده از سیستم‌های ترجمه یا بازنویسی با مدل‌های تولیدی دیگر، یا حتی با درخواست از مدل برای درج الگوهای خاص، کارایی لازم را ندارد.
این شرکت همچنین به این نکته اشاره کرد که نشانه‌گذاری متون ممکن است بر گروه‌های خاصی تأثیر منفی بگذارد؛ به‌ویژه در مواردی که استفاده از هوش مصنوعی به‌عنوان ابزاری مفید برای نویسندگی به ویژه برای غیرانگلیسی‌زبان‌ها دشوار شود.
در حال حاضر، اوپن‌ای‌آی در حال ارزیابی این خطرات است و همچنین انتشار ابزارهای تأیید هویت برای محتوای شنیداری و بصری را در اولویت قرار داده است.
سخنگوی اوپن‌ای‌آی در بیانیه‌ای بیان کرد که به دلیل پیچیدگی‌های موجود و تاثیرات احتمالی آن بر اکوسیستم بزرگتر از خود اوپن‌ای‌آی، شرکت «رویکردی سنجیده» را برای نشانه‌گذاری متون در نظر گرفته است.