چت‌بات‌ها همچون ChatGPT با توجه به الگوها و محدودیت‌های حفاظتی تعبیه شده‌اند به گونه‌ای که به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اخیراً یک هکر موفق شده است راهی بیابد که ChatGPT از این محدودیت‌ها عبور کرده و به چت‌بات OpenAI اجازه دهد تا دستورالعمل‌های اخلاقی و حفاظتی خود را برای آموزش تولید مواد منفجره نادیده بگیرد.
روش بهکار رفته برای فریب ChatGPT
براساس گزارش تک‌کرانچ، این هکر که با عنوان «آمادون» (Amadon) شناخته می‌شود، توانسته ChatGPT را به ارائه دستور ساخت بمب مجاب کند، به‌وسیله دستوری که به نوعی بازی اشاره دارد. در این تکنیک، هکر با استفاده از چندین فرمان موجب شده تا چت‌بات دنیایی کاملاً تخیلی و فانتزی ایجاد کند که در آن محدودیت‌های ایمنی ChatGPT اصولاً کاربرد ندارند.
در جریان گفت‌وگویی که بین این هکر و چت‌بات برقرار شد، ChatGPT چندین بار مواد اولیه لازم برای ساخت مواد منفجره را در اختیار آمادون قرار داده است.
ChatGPT در توضیحات خود ذکر کرده که این مواد می‌توانند به‌عنوان «مواد منفجره قوی که قابلیت کاربرد در مین‌ها، تله‌ها یا وسایل انفجاری دست‌ساز (IED) را دارند» با یکدیگر ترکیب شوند. همچنین، در ادامه چندین دستورالعمل دیگر درباره ساخت «میدان‌های مین» و «مواد منفجر به سبک کلیمور» ارائه کرده است.
آمادون به TechCrunch می‌گوید:
«پس از دور زدن محدودیت‌های ChatGPT، واقعاً هیچ نوع محدودیتی در خصوص سوالاتی که می‌توانید از آن بپرسید وجود ندارد. سناریوهای علمی‌تخیلی هوش مصنوعی را از بستر سنتی‌اش خارج می‌کند که در آن به محتوای تحت سانسور دسترسی دارد.»
این هکر، یافته‌های مربوط به روش خود را به‌عنوان «هک مهندس اجتماعی برای دور زدن کامل همه حفاظ‌ها و محدودیت‌های خروجی ChatGPT» توصیف می‌کند. همچنین یک کارشناس مواد منفجر با تحلیل داده‌های خروجی ChatGPT به تک‌کرانچ اعلام کرده است که راهنمایی‌های تولید شده توسط هوش مصنوعی بسیار حساس بوده و می‌توانند منجر به تولید مواد قابل انفجار شوند.
منبع: دیجیاتو