یک کمیته تازه تأسیس برای نظارت بر هیئت مدیره شرکت اوپن‌ای‌آی با اختیارات گسترده‌ای راه‌اندازی شده است که به نوعی حیرت‌آور، سم آلتمن، مدیرعامل این شرکت از جمع اعضای آن کنار گذاشته شده است.
اوپن‌ای‌آی (OpenAI) تغییرات اساسی را در رویه‌های امنیتی و ایمنی خود به منظور ایجاد یک کمیته جدید مستقل برای نظارت بر هیئت مدیره اعلام کرده است. این اقدام با یک تغییر قابل توجه همراه است؛ سم آلتمن، مدیرعامل این شرکت دیگر عضوی از کمیته ایمنی نیست که این امر نشان‌دهنده تحولی در چارچوب قبلی است.
زیکو کولتر (Zico Kolter)، رئیس بخش فناوری یادگیری ماشین در دانشگاه کارنگی ملون، رهبری این کمیته جدید ایمنی را بر عهده خواهد داشت. از دیگر اعضای کلیدی این کمیته می‌توان به آدام دی‌آنجلو (Adam D’Angelo) مدیر اجرایی کورا (Quora)، پل ناکاسون (Paul Nakasone) ژنرال بازنشسته ارتش ایالات متحده و نیکول سلیگمن (Nicole Seligman) مشاور عمومی شرکت سونی اشاره کرد.
این کمیته جدید به عنوان جایگزینی برای کمیته ایمنی و امنیت قبلی که در ژوئن ۲۰۲۴ تأسیس شده بود و سم آلتمن نیز جزو اعضای آن به شمار می‌رفت، تأسیس شده است. وظیفه کمیته قبلی ارائه توصیه‌های مرتبط با تصمیم‌گیری‌های کلیدی ایمنی و امنیتی برای پروژه‌ها و عملیات‌های اوپن‌ای‌آی بود.
اکنون وظایف این کمیته جدید فراتر از ارائه مشاوره است، زیرا صلاحیت نظارت بر ارزیابی‌های ایمنی عرضه مدل‌های اصلی و اعمال نظارت بر عرضه آن‌ها را نیز خواهد داشت. مهم‌تر از همه، این کمیته توانایی دارد تا انتشار مدل‌ها را تا زمانی که نگرانی‌های ایمنی به طور کافی رفع نشده است، به تعویق اندازد.
این تغییرات ساختاری به دنبال بازنگری‌های دقیق در مورد تعهد اوپن‌ای‌آی به ایمنی هوش مصنوعی صورت گرفته است. پیشتر، این شرکت به دلیل برچیده شدن یک تیم ایمنی به نام سوپرالانمنت (Superalignment) و خروج نیروهای کلیدی مرتبط با ایمنی با انتقادات جدی مواجه شده بود.
به نظر می‌رسد که عدم حضور سم آلتمن در کمیته ایمنی تلاشی برای ابراز پاسخ به نگرانی‌های موجود در رابطه با تضاد منافع احتمالی در نظارت بر ایمنی این شرکت باشد.
فرایند جدید ایمنی اوپن‌ای‌آی همچنین شامل راهبردهایی برای تقویت اقدامات امنیتی، افزایش شفافیت در مورد فعالیت‌های شرکت و همکاری با سازمان‌های خارجی است. این شرکت قبلاً با مؤسسات ایمنی هوش مصنوعی ایالات متحده و بریتانیا توافق کرده تا در زمینه پژوهش درباره خطرات و استانداردهای ایمنی جدید هوش مصنوعی همکاری کنند و بر توسعه هوش مصنوعی قابل اعتماد تمرکز نمایند.