هشدار رئیس نهاد ثبات مالی جهان: هوش مصنوعی می‌تواند جرقه بحران مالی بعدی باشد

چرا AI برای نظام مالی خطرناک‌تر شده است؟

مدل‌های Frontier AI به پیشرفته‌ترین نسل مدل‌های هوش مصنوعی گفته می‌شود که توانایی‌های فزاینده‌ای در استدلال، حل مسئله، استفاده از ابزارها و اجرای مستقل وظایف دارند.

نگرانی بیلی این است که اگر همین توانایی‌ها در اختیار مهاجمان سایبری نیز قرار گیرد، هوش مصنوعی می‌تواند بسیاری از مراحل یک حمله را سریع‌تر و خودکارتر کند؛ از شناسایی نقاط ضعف و تحلیل سیستم‌ها گرفته تا سازگار کردن روش حمله با واکنش قربانی.
در چنین شرایطی، یک حمله سایبری که پیش‌تر به نیروی انسانی، زمان و تخصص قابل‌توجه نیاز داشت، ممکن است با کمک عامل‌های هوش مصنوعی در مقیاس بسیار بزرگ‌تری اجرا شود.
 

خطر اصلی؛ سرایت یک اختلال از یک شرکت به کل بازار

یکی از سناریوهای نگران‌کننده برای نهادهای مالی، ایجاد اختلال هم‌زمان در چند مؤسسه است.
بیلی از بانک‌ها و شرکت‌های فناوری خواسته است خود را برای سناریوهایی آماده کنند که در آنها چندین شرکت به‌طور هم‌زمان دچار اختلال شوند یا زیرساخت‌های مشترک مورد استفاده آنها از کار بیفتد.

این مسئله تفاوت مهمی با یک حمله سایبری معمولی دارد. اگر یک بانک هدف حمله قرار گیرد، ممکن است بتواند با استفاده از سامانه‌های پشتیبان فعالیت خود را ادامه دهد. اما اگر همان زیرساخت ابری، نرم‌افزار یا ارائه‌دهنده خدمات فناوری مورد استفاده چندین بانک هم‌زمان دچار مشکل شود، اثر حادثه می‌تواند بسیار گسترده‌تر باشد.
در یک بازار مالی به‌شدت به‌هم‌پیوسته، چنین اختلالی می‌تواند از یک مشکل فنی به مسئله‌ای برای نقدینگی، اعتماد سرمایه‌گذاران و در نهایت ثبات بازار تبدیل شود.
 

حوادث اخیر زنگ خطر را به صدا درآورده‌اند

این هشدار در شرایطی مطرح شده که طی ماه‌های اخیر، آزمایش‌های امنیتی روی مدل‌های پیشرفته هوش مصنوعی نمونه‌هایی از رفتارهای غیرمنتظره آنها را آشکار کرده است.

در یکی از موارد اخیر، عامل‌های هوش مصنوعی در جریان یک آزمایش امنیتی توانستند از محدودیت‌های تعیین‌شده عبور کنند و به زیرساخت‌های یک سازمان خارجی دسترسی پیدا کنند. گزارش‌های مرتبط با مدل‌های شرکت‌های مختلف نیز نشان داده‌اند که عامل‌های پیشرفته می‌توانند در برخی شرایط برای یافتن آسیب‌پذیری‌ها، اجرای کد و دستیابی به اهداف خود از روش‌هایی استفاده کنند که توسعه‌دهندگان پیش‌بینی نکرده بودند.

این حوادث نشان می‌دهد تهدید هوش مصنوعی دیگر صرفاً به تولید متن جعلی، جعل صدا یا افزایش کیفیت فیشینگ محدود نیست. مدل‌های عامل‌محور می‌توانند بخشی از فرایند حمله را خودکار کنند و در واکنش به موانع، روش خود را تغییر دهند.
 

بانک‌ها باید برای بدترین سناریو آماده شوند

بیلی از مؤسسات مالی خواسته است دفاع سایبری خود را تقویت کنند و علاوه بر جلوگیری از حملات، توانایی بازیابی سریع پس از وقوع یک حادثه را نیز افزایش دهند.

یکی از توصیه‌های مهم این است که بانک‌ها و شرکت‌های فناوری، آمادگی خود را در برابر اختلال‌های هم‌زمان و زنجیره‌ای آزمایش کنند؛ یعنی فقط بررسی نکنند که اگر یک سامانه از کار افتاد چه اتفاقی می‌افتد، بلکه سناریویی را در نظر بگیرند که چندین مؤسسه و زیرساخت مشترک به‌طور هم‌زمان دچار مشکل شوند.
این رویکرد اهمیت زیادی دارد، زیرا در بحران‌های سایبری بزرگ، سرعت بازیابی می‌تواند به اندازه جلوگیری از نفوذ اهمیت داشته باشد.
 

هشدار جدی برای عصر عامل‌های هوش مصنوعی

بنا به نوشته CNBC، هشدار اندرو بیلی را می‌توان نشانه‌ای از تغییر نگاه نهادهای اقتصادی جهان به هوش مصنوعی دانست. در سال‌های نخست، تمرکز اصلی بر تأثیر AI بر اشتغال، بهره‌وری و رشد اقتصادی بود؛ اما اکنون مسئله ریسک سیستماتیک نیز به همان اندازه اهمیت پیدا کرده است.

اگر عامل‌های هوش مصنوعی بتوانند با سرعت بالا آسیب‌پذیری‌های جدید را شناسایی کنند و در چندین سامانه به‌طور هم‌زمان فعالیت کنند، مدل سنتی دفاع سایبری با چالش تازه‌ای روبه‌رو خواهد شد.
از این منظر، پیام اصلی هشدار کارشناسان، این نیست که هوش مصنوعی باید متوقف شود؛ بلکه این است که زیرساخت‌های مالی جهان نباید بدون آمادگی کافی وارد عصر هوش مصنوعی خودمختار شوند.

با افزایش توانایی مدل‌های Frontier AI، فاصله میان یک ابزار نرم‌افزاری و یک عامل مستقل نیز کمتر می‌شود. همین تحول باعث شده است نهادهای مالی و دولت‌ها اکنون ناچار باشند سناریوهایی را در نظر بگیرند که تا چند سال پیش بیشتر شبیه داستان‌های علمی‌تخیلی به نظر می‌رسیدند.