شرکت «اوپن‌ای آی» به تازگی ابزار رونویسی خود را که به کمک هوش مصنوعی توسعه یافته، به نام «ویسپر» (Wisper) معرفی کرده است و ادعای دارد که این ابزار از نظر دقت و کارایی با یک کاربر انسانی هم‌سطح است.
به نقل از خبرگزاری مهر، اما ویسپر با چالش جدی روبه‌روست. بر اساس نظر مهندسان نرم‌افزار، توسعه‌دهندگان و پژوهشگران دانشگاهی، ممکن است این ابزار به تنهایی بخشی از متن یا حتی جملات کامل را تولید کند. این کارشناسان بر این باورند که برخی از آنچه این ابزار خلق می‌کند، ممکن است شامل اظهارات نژادی، خشونت‌آمیز یا حتی درمان‌های پزشکی غیرواقعی باشد.
به عقیده آنان، این قبیل جملات می‌توانند به مشکلات قابل توجهی منجر شوند، چرا که از این ابزار در صنایع مختلف در سرتاسر جهان برای تبدیل مصاحبه‌ها، تولید محتوا در فناوری‌های مصرفی پرطرفدار و نیز ساخت زیرنویس برای ویدیوها استفاده می‌گردد.
نکته نگران‌کننده‌تر، رغبت مراکز درمانی به استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره‌های پزشکی بیماران است. در حالی که اوپن‌ای آی قبلاً اعلام کرده است که این ابزار باید در زمینه‌هایی با خطر بالا به کار نرود.
سخت است که ابعاد کامل این مشکل را تشخیص داد، اما پژوهشگران و مهندسان اظهار کرده‌اند که در پروژه‌های خود به‌طور مکرر با ویرایش‌های نادرست ویسپر مواجه شده‌اند. به‌عنوان نمونه، یک محقق از دانشگاه میشیگان درحال اجرای تحقیقی بر روی جلسات عمومی بود و از ۱۰ رونویسی کلیپ صوتی که بررسی کرده، ۸ مورد به وضوح شامل انحرافات ناشی از ویسپر بود. او بعد از این مشاهدات، تلاش خود را برای بهبود این مدل هوش مصنوعی آغاز کرد.
در همین حال، یک مهندس یادگیری ماشینی نیز اعلام کرده است که او بیش از ۱۰۰ ساعت از نمونه‌های رونویسی تولید شده توسط ویسپر را مورد بررسی قرار داده و حدود نیمی از آن‌ها شامل انحرافات این هوش مصنوعی بوده است. یک محقق دیگر نیز اظهار کرده که هنگام ولیعهد بررسی 26 هزار متن که به کمک ویسپر نوشته شده، تقریباً در هر رونویسی نشانه‌هایی از انحرافات این ابزار را مشاهده کرده است.
این چالش حتی در رونویسی نمونه‌های کوتاه و با کیفیت صوتی مناسب نیز بروز می‌کند.