بر اساس گزارشی از ایتنا، تحقیقات نشان می‌دهد که حدود ۳۰ درصد از کلاهبرداری‌ها علیه فروشگاه‌های بزرگ در حال حاضر با صدای تولیدشده توسط ربات‌ها یا از طریق «دیپ‌فیک» صورت می‌گیرد.
تماس‌های مصنوعی با صدای رباتیک
به نقل از خبرگزاری اکسیوس، یکی از خرده‌فروشان بزرگ اظهار کرده که روزانه بیش از هزار تماس با صداهای مصنوعی دریافت می‌کند. در یک نمونه از این تماس‌ها، ربات با لحنی کمی غیرطبیعی و با جمله «بسته‌ام گم شده است، لطفاً مرجوعش کنید» ارتباط را آغاز می‌کند. اگرچه صدای ربات به وضوح مصنوعی است و پاسخ‌های او به سوالات پشتیبانی نادرست به نظر می‌رسد، ولی با ارائه شماره سفارش واقعی و برخی اطلاعات تماس، به راحتی کارشناس پشتیبانی را متقاعد کرده و درخواست بازپرداخت را تأیید می‌کند.
تهدیدی گسترده‌تر از شرکت‌ها
این تهدید بیش از حد به شرکت‌ها محدود نمی‌شود؛ بلکه مصرف‌کنندگان نیز توسط تبلیغات و پیشنهادات جعلی هدف قرار می‌گیرند. ویدیوها، تبلیغات و پست‌هایی که با استفاده از هوش مصنوعی و تکنولوژی‌های دیپ‌فیک ساخته شده‌اند، با تصاویر و صدای افراد مشهور، وعده «تخفیف ویژه» یا «پیشنهاد انحصاری» را به مخاطبان می‌دهند و آنها را به سایت‌های تقلبی راهنمایی می‌کنند.
پیشرفت‌های قابل توجه در کیفیت تقلید و دشواری شناسایی آن
متخصصان امنیت سایبری هشدار می‌دهند که به دلیل پیشرفت‌های روزافزون در کیفیت صدای تقلیدی و تصویرسازی به کمک ابزارهای هوش مصنوعی، شناسایی این نوع تقلب‌ها با روش‌های مرسوم به شدت دشوار شده است. این پیشرفت‌ها احتمال فریب دادن کارکنان و مشتریان را بیشتر از پیش کرده است.
ضرورت توجه به این موضوع
– حملات تقلبی مبتنی بر ربات‌ها و دیپ‌فیک به شکل خودکار و مستمر در حال اجرا بوده و در برخی فروشگاه‌ها به تعداد بیش از هزار تماس تقلبی در روز رسیده‌اند.
– این تماس‌ها غالباً با اطلاعات واقعی همرا هستند، که شناسایی تقلب را برای کارکنان پشتیبانی چالش‌برانگیزتر می‌کند.
– تبلیغات جعلی با کیفیت‌های بالا و جذاب، مصرف‌کنندگانی از قشر عادی را هدف قرار می‌دهد و می‌تواند به سرقت اطلاعات حساس یا مالی تمامی آنها منجر گردد.
– با نزدیک شدن به فصل تعطیلات و افزایش فعالیت‌های مالی، فرصت‌های سوءاستفاده برای کلاهبرداران افزایش می‌یابد و بنابراین، ضرورت احتیاط دوچندان می‌شود.
راهنمایی‌هایی برای کاربران و کسب‌وکارها
– همیشه پیشنهادات و تخفیف‌هایی که در شبکه‌های اجتماعی دریافت می‌کنید را از طریق وب‌سایت رسمی فروشگاه مورد تأیید قرار دهید و از صحت آنها اطمینان حاصل کنید.
– اگر تماسی یا ایمیلی برای درخواست استرداد یا اطلاعات حساسی دریافت کردید، حتی اگر داده‌ها جزئی با هم تطبیق داشتند، بدون بررسی‌های اضافی اقدام نکنید.
– کسب‌وکارها باید سیستم‌های شناسایی تقلب را تقویت کرده و پروتکل‌های خدمات مشتری را بازنگری کنند تا در برابر تماس‌ها و درخواست‌های خودکار محافظت نمایند.
– به کاربران آموزش دهید که نسبت به پیشنهادات غیرمعمول یا تحت فشارهای زمانی حساس باشند و در صورت شک، از کانال‌های رسمی فروشگاه اطلاعات لازم را کسب کنند.
با افزایش کیفیت فناوری‌های تولید صدا و تصویر مصنوعی و گسترش حملات هدفمند در زمان خرید، تقویت زیرساخت‌های دفاعی در برابر تقلب و آگاه‌سازی مشتریان به‌مثابه یک ضرورت حفاظتی در برابر تهدیدات ناشی از هوش مصنوعی می‌باشد.