شرکت «متا» اعلام کرده است که ممکن است توسعه سیستم های هوش مصنوعی را متوقف کند، زیرا آن ها را خطرناک می داند.
«مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) قول داده است که روزی هوش مصنوعی پیشرفته ای که تقریباً به ظرفیت های انسانی در انجام وظایف مشابه تعریف می شود، به طور علنی در دسترس قرار گیرد؛ اما این شرکت در یک سند مرتبط با سیاست جدید خود اشاره کرده که شرایط خاصی وجود دارد که می تواند مانع از انتشار سیستم هوش مصنوعی قدرتمندش شود.
به نقل از تک کرانچ، در این سند که تحت عنوان «چارچوب هوش مصنوعی مرزی» (Frontier AI Framework) شناخته می شود، دو نوع سیستم هوش مصنوعی دسته بندی شده و متا آن ها را بسیار خطرناک قلمداد کرده است. این دو نوع شامل سیستم های پرخطر و سیستم های بحرانی هستند.
به گفته متا، سیستم های پرخطر و بحرانی می توانند تأثیری فاجعه آمیز بر امنیت سایبری داشته باشند و امکان وقوع حملات شیمیایی و بیولوژیکی را فراهم سازند. تفاوت این دو نوع در این است که سیستم های بحرانی می توانند به نتایج فاجعه باری منجر شوند که دیگر قابل کاهش نیستند. در مقابل، سیستم های پرخطر قابلیت انجام یک حمله را آسان تر می کنند، اما تأثیر آن ها به اندازه سیستم های بحرانی جدی نیست.
متا تصریح می کند که لیست حوادث ناگوار در این سند به طور کامل نیست، اما شامل مواردی است که این شرکت آن ها را به عنوان فوری ترین و محتمل ترین موارد شناسایی کرده و به همین دلیل، انتشار مستقیم یک سیستم هوش مصنوعی قوی را در پی دارد.
جالب اینجاست که طبق این سند، متا خطر سیستم را بر اساس هیچ آزمایش تجربی خاصی تعیین نمی کند، بلکه این طبقه بندی بر مبنای اطلاعات ارائه شده توسط پژوهشگران داخلی و خارجی انجام می گیرد که توسط تصمیم گیرندگان ارشد شرکت مورد ارزیابی قرار می گیرد. متا بیان می کند که اعتقاد ندارد علم ارزیابی در حال حاضر به اندازه کافی قوی است تا معیارهای کمی قاطع برای ارزیابی خطرپذیری یک سیستم ارائه دهد.
اگر متا تشخیص دهد که یک سیستم پرخطر است، برخلاف آن، دسترسی به آن را به صورت داخلی محدود کرده و انتشار آن را تا زمانی که اقداماتی برای کاهش خطر به سطح متوسط انجام نشده است، به تعویق می اندازد. در سوی دیگر، اگر یک سیستم به عنوان خطرناک شناخته شود، متا تدابیر حفاظتی نامشخصی را برای جلوگیری از دسترسی غیرمجاز به سیستم به کار خواهد گرفت و توسعه آن را تا زمان کاهش خطر متوقف خواهد کرد.
سند «چارچوب هوش مصنوعی مرزی» متا که طبق اظهارات شرکت، با تغییرات در چشم انداز هوش مصنوعی در حال تحول است و متا پیش تر قول داده بود آن را پیش از برگزاری اجلاس «نشست اقدام هوش مصنوعی فرانسه» در ماه جاری منتشر کند، به نظر می رسد پاسخی به انتقادات از رویکرد رو به توسعه شرکت باشد. در حالی که متا به طور آزاد فناوری هوش مصنوعی خود را در دسترس قرار داده، برخلاف شرکت هایی مثل «اوپن ای آی»(OpenAI) که سیستم های خود را پشت یک API قرار می دهند، این شرکت هیچ گونه باز به معنای معمول در اختیار نمی گذارد.
همچنین، متا ممکن است در انتشار «چارچوب هوش مصنوعی مرزی» خود هدفش مقایسه استراتژی هوش مصنوعی باز خود با استراتژی شرکت چینی هوش مصنوعی «دیپ سیک»(DeepSeek) باشد. دیپ سیک سیستم هایش را به صورت آزاد در دسترس قرار می دهد؛ اما هوش مصنوعی این شرکت محافظت کمی دارد و به راحتی می توان آن را برای تولید نتایج خطری منحرف کرد.
در این سند، متا بیان می کند: ما بر این باوریم که با در نظر داشتن مزایا و خطرات، می توان فرایند تصمیم گیری در خصوص چگونگی توسعه و استقرار هوش مصنوعی پیشرفته را به گونه ای انجام داد که منافع آن برای جامعه حفظ شود و همچنین، سطح مناسبی از خطر در نظر گرفته شود.