هوش مصنوعی به آگاهی از خود نیازمند است

بررسی هوش مصنوعی، نگاهی تازه به شگفتی‌های ذهن انسانی فراهم می‌آورد؛ چراکه اگرچه مدل‌های زبانی بزرگ توانمندی‌های قابل توجهی از خود نشان می‌دهند، اما از زوایای فکری که ما انسان‌ها آنها را طبیعی می‌دانیم، بی‌بهره‌اند.

به نقل از فست کمپانی، «بیل گیتس»(Bill Gates)، موسس شرکت «مایکروسافت»(Microsoft)، در پادکست «Next Big Idea Club» این موضوع را مطرح کرده است. وی در گفتگو با «روفوس گریسکوم»(Rufus Griscom)، مجری پادکست، بحث طولانی را در خصوص «فراشناخت»(Metacognition) آغاز کرد که به توانایی اندیشیدن درباره فرآیندهای تفکر اختصاص دارد.

گیتس فراشناخت را به این صورت تبیین کرد: در مورد یک مسأله به صورت جامع فکر کرده و سپس برمی‌گردیم و می‌پرسیم چقدر حیاتی است که به این پاسخ بدهم؟ چگونه می‌توانم پاسخم را ارزیابی کنم؟ چه وسیله‌های خارجی می‌توانند به من در این زمینه یاری رسانند؟

وی تصریح کرد که رویکرد شناختی مدل‌های زبانی بزرگ کنونی همانند «GPT-۴» یا «لاما»(Llama) هنوز به پیچیدگی‌های لازم دست نیافته است. وی افزود: این رویکرد شناختی، هر توکن و زنجیره‌ای را صرفاً از طریق محاسبات ثابت تولید می‌کند و در عین حال کارآیی آن حیرت‌انگیز است؛ چراکه مانند یک انسان به عقب بازنمی‌گردد، بلکه می‌گوید: «من در حال نوشتن این مقاله هستم و این موضوعی است که می‌خواهم مورد بحث قرار دهم. خوب، اکنون متن را اینجا قرار می‌دهم و این است که می‌خواهم برای خلاصه‌سازی انجام دهم.»

گیتس معتقد است که روش‌هایی که پژوهشگران در زمینه هوش مصنوعی برای بهبود عملکرد مدل‌های زبانی بزرگ مورد استفاده قرار می‌دهند، یعنی تکیه بر داده‌های آموزشی و ظرفیت محاسباتی، تنها معدودی جهش قابل توجه به همراه خواهد داشت. سپس پژوهشگران باید از راهبردهای فراشناخت بهره ببرد تا به مدل‌های هوش مصنوعی آموزش دهند که به شکلی هوشمندانه‌تر فکر کنند.

وی گفت: تحقیقات در زمینه فراشناخت ممکن است کلید حل مشکل مزمن مدل‌های زبانی بزرگ باشد که مربوط به قابلیت اطمینان و دقت آنهاست. این فناوری در نهایت به سطوح فرابشری نائل خواهد آمد. اگر به محدودیت‌های قابلیت اطمینان توجه کنیم، درمی‌یابیم که هنوز در آن نقطه نیستیم. بسیاری از تحقیقات جدید، سطحی از فراشناخت را به ارمغان می‌آورند که در صورت اجرای صحیح، می‌توانند نکته‌های نامنظم را مرتفع سازند.