دکتر رومن وی یامپولسکی، یکی از متخصصان معتبر هوش مصنوعی، هشدار میدهد که با یک حادثه تقریباً غیرقابل اجتناب که پتانسیل ایجاد یک بحران وجودی را دارد، مواجه هستیم.
به نقل از خبرگزاری ایسنا، این پژوهشگر در حوزه هوش مصنوعی، تحقیقی جامع را در زمینه ادبیات علمی مرتبط انجام داده و به این نتیجه رسیده است که شواهدی برای حمایت از این دیدگاه وجود ندارد که میتوان هوش مصنوعی را بهطور ایمن کنترل نمود.
وی همچنین تأکید میکند که حتی اگر پیشنهاداتی برای مکانیسمهای کنترل هوش مصنوعی ارائه شود، این اقدامات نمیتوانند تضمینهای کافی برای ایمنی را فراهم کنند.
بر اساس گزارش آیای، دکتر یامپولسکی، استاد دانشگاه لوئیزویل(Louisville)، دستاوردهای خود را در کتابی با عنوان «هوش مصنوعی غیرقابل توضیح، غیرقابل پیشبینی، و غیرقابل کنترل» به چاپ رسانده است.
تحقیقات وی در قلمرو «ایمنی هوش مصنوعی» با حمایت ایلان ماسک و موسسه آینده زندگی (FLI) که به سرپرستی مکس تگمارک، استاد دانشگاه MIT، و ژان تالین، یکی از بنیانگذاران اسکایپ، تأسیس شده، همراه بوده است.
این مؤسسه، برای توسعه ابزارهای هوش مصنوعی قویتر از GPT-4، پیشنهاد توقف شش ماههای را ارایه داده است.
در نامهای سرگشاده که توسط بیش از 33 هزار نفر از جمله ایلان ماسک، استیو وزنیاک، همبنیانگذار اپل و یوشوا بنجیو (Yoshua Bengio)، پدرخوانده هوش مصنوعی، امضا شده است، نگرانیها در مورد خطرات هوش مصنوعی مطرح شدهاند.
نگرانیهای پیرامون مدیریت و تنظیم مقررات در برابر خطرات هوش مصنوعی
با ظهور ابزارهای جدید هوش مصنوعی در بازار در سال اخیر، دکتر یامپولسکی اشاره میکند که سیستمهای پیشرفته هوش مصنوعی با وجود پتانسیلهایشان، به دلیل غیرقابل پیشبینی بودن و فزونی استقلالشان، همواره با خطراتی همراه خواهند بود.
این پژوهشگر در یک بیانیه مطبوعاتی تصریح میکند: «چرا بسیاری از پژوهشگران بر این باورند که مشکل کنترل هوش مصنوعی قابل حل است؟ تا آنجا که ما آگاهیم، هیچ شواهدی برای این ادعا وجود ندارد. پیش از آنکه اقدام به ایجاد یک هوش مصنوعی قابل کنترل کنیم، مهم است که ثابت کنیم این مشکل واقعاً حلشدنی است.»
او افزود: «این واقعیت که توسعه ابرهوش مصنوعی یک حادثه تقریباً قطعی است، نشان میدهد که ما باید به طور جدی بر روی اقدمات مثبت ایمنی در حیطه هوش مصنوعی تمرکز نماییم.»
توسعه ابرهوش مصنوعی امری اجتنابناپذیر است
هوش مصنوعی در وضعیت ابرهوشمندی قادر است بهطور مستقل یادگیری کند و به فعالیت بپردازد، که تضمین ایمنی آن را به ویژه با توجه به رشد روزافزون قابلیتهایش، به چالشی جدی مبدل میکند.
به طوری که میتوان گفت، هوش مصنوعی فوق هوشمند ممکن است نوعی «ذهن» شخصی داشته باشد. بنابراین، چگونه میتوان آن را بهطور مؤثر کنترل کرد؟ آیا اصول رباتیک آیزاک آسیموف، که حاکم بر رفتارهای اخلاقی میان انسان و ربات است، هنوز هم در دنیای کنونی حاکم است؟
دکتر یامپولسکی، که عمدتاً در حوزه ایمنی هوش مصنوعی فعالیت میکند، توضیح میدهد: «ما با یک سناریوی تقریباً قطعی و خطرناک که میتواند به یک فاجعه وجودی بیانجامد، روبرو هستیم.»
او همچنین خاطرنشان میکند: «غیرعادی نیست که بسیاری از افراد این موضوع را بهعنوان بزرگترین چالش بشریت تفسیر کنند. عواقب آن میتواند به رفاه یا انقراض بشر منجر شود.»
یکی از چالشهای محوری، تصمیمگیریهای احتمالاً خطرناک و ناپاگرایی مخلوقات فوق هوشمند است که پیشبینی رفتار آنها را دشوار میسازد.
علاوه بر این، عدم قابلیت توضیح در اتخاذ تصمیمات هوش مصنوعی نگرانیهایی ایجاد میکند، زیرا درک این تصمیمات برای کاهش بروز حوادث و تضمین نتایج عادلانه بهویژه در حوزههای مهمی نظیر بهداشت و درمان و امور مالی که هوش مصنوعی در آنها وارد شده، بسیار ضروری است.
با افزایش استقلال هوش مصنوعی، کنترل انسانی بر روی آن کمتر میشود و این موضوع به نگرانیهای ایمنی دامن میزند. دکتر یامپولسکی بر لزوم ایجاد تعادل میان قدرت و کنترل هوش مصنوعی تأکید کرده و اذعان میکند که ابرهوش بهطور ذاتی قابل کنترل نیست.
وی همچنین به اهمیت همسویی هوش مصنوعی با ارزشهای انسانی اشاره کرده و راهکارهایی برای کاهش خطرات نظیر اصلاحپذیری، شفافیت و طبقهبندی به عنوان «قابل کنترل» یا «غیرقابل کنترل» ارائه میدهد.
با وجود این چالشها، دکتر یامپولسکی بر ادامه تحقیقات و سرمایهگذاری در حوزه ایمنی و امنیت هوش مصنوعی تأکید کرده و خاطرنشان میکند که اگرچه دستیابی به هوش مصنوعی صد درصد ایمن ممکن است غیرممکن باشد، اما تلاش در این راستا همواره ارزشمند است.