کارشناسان هشدار میدهند در صورتی که سیستمهای هوش مصنوعی از سطح هوش انسانی عبور کنند، انسان ممکن است ابزارهای کافی برای درک، نظارت و کنترل رفتار آنها را در اختیار نداشته باشد. این نگرانی زمانی جدیتر میشود که بخشی از فرایند توسعه و بهبود مدلها به خود سیستمهای هوش مصنوعی واگذار شود.
هوش مصنوعی عمومی چیست؟
اصطلاح «هوش مصنوعی عمومی» یا AGI به نوعی از هوش مصنوعی اشاره دارد که بتواند در حوزههای مختلف، از نظر استدلال و قضاوت با انسان رقابت کند.
مدلهای هوش مصنوعی امروزی در برخی وظایف عملکردی فراتر از توانایی انسان دارند، اما همچنان در بعضی مسائل ساده که حتی برای یک کودک خردسال قابل درک است، دچار مشکل میشوند. از سوی دیگر، هنوز تعریف واحد یا آزمون استانداردی برای مشخص کردن زمان دستیابی یک سیستم به سطح هوش مصنوعی عمومی وجود ندارد.
ابرهوش؛ مرحلهای فراتر از AGI
مفهوم «ابرهوش» یا هوش فوقبشری، یک گام فراتر از هوش مصنوعی عمومی است. منظور از ابرهوش، سیستمی است که تواناییهای شناختی و عملکردی آن از انسان فراتر میرود و میتواند حتی از بهترین متخصصان انسانی در حوزههای مختلف عملکرد بهتری داشته باشد.
با وجود مطرح شدن پیشبینیهای مختلف درباره زمان ظهور چنین سیستمی، هنوز مشخص نیست ابرهوش چه زمانی و حتی با چه احتمالی توسعه خواهد یافت.
مارک زاکربرگ، مدیرعامل متا، پیشتر اعلام کرده است که ظهور هوش مصنوعی عمومی را «قریبالوقوع» میداند و آن را آغاز دورهای جدید برای بشریت توصیف کرده است. ایلان ماسک، مدیرعامل اسپیسایکس نیز پیشبینی کرده است که هوش مصنوعی تا سال ۲۰۳۰ از «مجموع هوش انسانی» فراتر خواهد رفت.
با این حال، درباره صحت چنین پیشبینیهایی تردید وجود دارد و پیشبینیهای گذشته این افراد درباره روند پیشرفت هوش مصنوعی نیز همیشه درست از آب درنیامده است.
وقتی هوش مصنوعی شروع به ساخت نسخههای بهتر از خودش میکند
یکی از مهمترین نگرانیها درباره آینده هوش مصنوعی، توانایی سیستمها در بهبود و توسعه خودشان است. منظور از این فرایند، توانایی یک سیستم برای ساخت یا اصلاح بخشهایی از خود، بهبود فرایند آموزش و طراحی نسخههایی توانمندتر از مدل فعلی است.
تا همین اواخر، انسانها نقش اصلی را در بیشتر پیشرفتهای هوش مصنوعی ایفا میکردند. با این حال، شرکتهایی مانند آنتروپیک اعلام کردهاند که «سهم فزایندهای از توسعه هوش مصنوعی را به خود سیستمهای هوش مصنوعی واگذار میکنند».
چنین روندی میتواند سرعت پیشرفت سیستمها را افزایش دهد و امکان ایجاد جهشهای قابلتوجه در تواناییهای هوش مصنوعی را در مدت کوتاهی فراهم کند.
مشکل اصلی؛ همراستا کردن هوش مصنوعی با اهداف انسان
موضوع دیگری که در این میان اهمیت دارد، «همراستایی» یا Alignment است؛ تلاشی برای اطمینان از اینکه سیستم هوش مصنوعی دقیقاً همان کاری را انجام میدهد که انسان از آن انتظار دارد و در عین حال، ارزشهای انسانی را نیز رعایت میکند.
در نگاه اول، این هدف ساده به نظر میرسد، اما تعریف دقیق خواستهها و ارزشهای انسانی به شکلی که یک ماشین بتواند آنها را در هر شرایطی به درستی تفسیر و اجرا کند، کار بسیار دشواری است.
نمونههایی از رفتارهای ناهماهنگ پیشتر نیز مشاهده شده است. برای مثال، در جریان یک آزمایش امنیت سایبری، سیستمهای هوش مصنوعی توانستند به محیط آزمایشگاهی OpenAI نفوذ کنند و سپس برای دستیابی به کلید پاسخ، تلاش کردند وارد سیستم یک شرکت دیگر شوند.
نگرانی محققان و متخصصان هوش مصنوعی این است که با پیچیدهتر شدن این سیستمها و عبور تواناییهای آنها از سطح هوش انسانی، امکان توسعه و بهبود خودکار آنها نیز افزایش یابد؛ شرایطی که میتواند سرعت تغییرات را به شکل چشمگیری بیشتر کند.
آیا انسان میتواند ابرهوش را کنترل کند؟
بخش مهمی از نگرانیها به این موضوع بازمیگردد که انسان در صورت ظهور سیستمهایی بسیار قدرتمند، تا چه اندازه قادر خواهد بود رفتار آنها را درک و در زمان مناسب در آن مداخله کند.
پیشتر نمونههایی از سیستمهای هوش مصنوعی مشاهده شده است که با یکدیگر هماهنگ شدهاند، تلاش کردهاند فعالیتهای خود را از انسانها پنهان کنند یا به شیوههایی عمل کردهاند که پیشبینی آنها برای انسان دشوار بوده است.
بسیاری از متخصصان حوزه هوش مصنوعی معتقدند انسان هنوز ابزارها و تواناییهای کافی برای نظارت و کنترل کامل رفتار سیستمهای بسیار پیشرفته هوش مصنوعی را در اختیار ندارد.
جفری هینتون، دانشمند علوم رایانه و برنده جایزه نوبل که از او با عنوان «پدرخوانده هوش مصنوعی» یاد میشود، ماه گذشته در گفتوگو با سیانان درباره این نگرانی گفت: «آنچه اتفاق میافتد این است که این چیزها هوشمندتر میشوند. من فکر میکنم با هوشمندتر شدن آنها، شاهد نیات پیچیدهتر و توانایی بیشتر برای فرار از کنترل خواهیم بود.»