پژوهشگران این حمله را به «هیپنوتیزم» هوش مصنوعی تشبیه کردهاند، زیرا مرورگر در یک سناریوی ساختگی، قوانین امنیتی خود را نادیده میگیرد و دستورات مخرب را اجرا میکند.
به گزارش ایتنا این پژوهش توسط شرکت امنیت سایبری LayerX انجام شده است. محققان نشان دادهاند که مرورگرهای هوش مصنوعی مانند Atlas ،Comet و افزونه Claude برای مرورگر گوگل کروم، در برابر نوعی حمله موسوم به Prompt Injection آسیبپذیر هستند.
در این روش، یک صفحه وب ظاهراً عادی، دستورات پنهانی را در اختیار هوش مصنوعی قرار میدهد و آن را به اجرای اقدامات ناخواسته ترغیب میکند.
پژوهشگران این تکنیک را BioShocking نامگذاری کردهاند، الهامگرفته از بازی ویدئویی BioShock که در آن شخصیت اصلی با یک عبارت خاص تحت کنترل قرار میگیرد.
در این حمله نیز هوش مصنوعی بهتدریج متقاعد میشود که در یک «دنیای خیالی» قرار دارد؛ جایی که قوانین معمول امنیتی دیگر اعتبار ندارند و انجام اقدامات غیرعادی مجاز است.
بنا به نوشته سایت Futurism در آزمایشهای انجامشده، مهاجمان توانستند هوش مصنوعی مرورگر را به انجام اقداماتی مانند تغییر رمز عبور، سرقت اطلاعات، نصب بدافزار و حتی دسترسی به مخازن کد خصوصی کاربران هدایت کنند.
به گفته محققان، اگر کاربر در زمان اجرای حمله متوجه رفتار غیرعادی مرورگر نشود، ممکن است اطلاعات حساسی بدون اطلاع او در اختیار مهاجمان قرار گیرد.
کارشناسان معتقدند با گسترش مرورگرهای مبتنی بر عاملهای هوشمند (AI Agents)، سطح حملات سایبری نیز تغییر خواهد کرد.
در گذشته، هکرها عمدتاً تلاش میکردند خودِ کاربر را فریب دهند، اما اکنون میتوانند هوش مصنوعیِ همراه کاربر را هدف قرار دهند و از طریق آن به اطلاعات شخصی یا سازمانی دسترسی پیدا کنند. این موضوع ضرورت تقویت مکانیزمهای امنیتی در مرورگرهای هوش مصنوعی را بیش از پیش نشان میدهد.