با وجود اینکه هوش مصنوعی مولد به صورت شگفت‌آوری در حال گسترش است و مزایای مختلفی برای کسب‌وکارها به همراه دارد، اما غیر قابل انکار است که با چالش‌هایی نیز روبرو است که لازم است به آنها توجه خاصی صورت گیرد. در این گزارش، به بررسی ۶ چالش عمده در این حوزه می‌پردازیم.
هوش مصنوعی مولد، به ویژه مدل‌های زبانی عظیم نظیر ChatGPT، به عنوان یکی از مهم‌ترین محصولات حاصل از تحقیقات در زمینه هوش مصنوعی شناخته می‌شود.
به نقل از فوربس، توجه به اهمیت هوش مصنوعی مولد مسئله‌ای بسیار جدی است. شرکت مشاوره مدیریت «مک‌کنزی»(McKinsey) پیش‌بینی می‌کند که هوش مصنوعی مولد می‌تواند در سال نزدیک به ۷.۹ تریلیون دلار به اقتصاد جهانی افزوده کند.
اگرچه هوش مصنوعی مولد دارای قابلیت‌های فوق‌العاده‌ای است، اما بدون نقص نیست. در واقع، می‌توان گفت که ظهور آن تا حدی کل اوضاع را مختل کرده است. اکنون که ۱۰ ماه از رونمایی ChatGPT 4 سپری شده، به بررسی مسائل اصلی مرتبط با هوش مصنوعی مولد می‌پردازیم و برخی راهکارها را برای مواجهه با این مشکلات مطرح خواهیم کرد.
۱. دقت
همه ما به وضوح از مشکل توهم در ChatGPT آگاه هستیم. این مدل‌های زبانی بزرگ برای ارائه پاسخ‌های محتمل طراحی شده‌اند و به گاهی اوقات از حد معمول در ارائه پاسخ مشتاق‌تر می‌شوند. این واقعیت بر کسی پوشیده نیست که این مدل‌ها به جای آنکه به سادگی بگویند «نمی‌دانم»، اقدام به تولید پاسخ‌هایی می‌کنند که می‌تواند منجر به بروز مشکلات جدی از جمله آسیب به نام تجاری یا نقض مقررات شود.
ایجاد تدابیر اخلاقی و موضوعی برای این مدل‌های هوش مصنوعی می‌تواند به کاهش این مشکل کمک کند. به همین خاطر، ارتقای فرآیند آموزش یک مدل هوش مصنوعی مولد با استفاده از منابع دانش خاص حوز‌ه‌های تجاری می‌تواند مؤثر باشد. البته، شرکت‌ها باید برای مواجهه با آینده‌ای ممکن‌الوقوع، دقت بیشتری در فرآیندهای مهندسی خود به کار ببرند و از نظارت انسانی بر اطلاعات تولید شده توسط مدل‌های زبانی بزرگ اطمینان حاصل کنند.
۲. سوگیری
مسئله سوگیری در هوش مصنوعی، به رغم اینکه موضوعی قدیمی به شمار می‌رود، اما بواسطه گسترش سریع هوش مصنوعی مولد این نگرانی به میزان قابل توجهی افزایش یافته است. اکنون مدیران شرکت‌ها باید نسبت به این موضوع شن‌وگوی بیشتری داشته باشند چرا که سوگیری‌های موجود می‌توانند فرهنگ سازمانی آنها را تحت تأثیر قرار دهند.
آیا کاربرانی که به آسانی از برنامه‌هایی همچون ChatGPT استفاده می‌کنند، بنابراین مغرضانه به یک نقطه نظر توجه می‌کنند و دیگر صداهای مختلف خاموش می‌مانند؟ منتقدان بر این باورند که این نرم‌افزار ممکن است دارای سوگیری‌های مشهودی باشد که به تداوم تعصبات جنسیتی و نژادی کمک می‌کند.
برای محافظت از این سازمان‌ها در برابر انتشار دیدگاه‌های سمی، گروه‌های مهندسی باید در ارتباط نزدیکی با این مسأله باشند و به ترویج ارزش‌های انسانی و شرکتی خود در ابزارهای هوش مصنوعی بپردازند.
۳. حجم اطلاعات
با توجه به اینکه تولید محتوا با هوش مصنوعی مولد بسیار آسان‌تر شده است، اکنون ما در دنیایی غرق در اطلاعات هستیم. ایمیل‌ها، کتاب‌های الکترونیکی، وب‌سایت‌ها، پست‌های شبکه‌های اجتماعی و دیگر آثار تولید شده همگی باعث سرازیر شدن سیل اطلاعات شده‌اند. حتی تعداد درخواست‌های شغلی با توجه به توانایی هوش مصنوعی در تولید سریع رزومه‌ها و نامه‌های پوششی شخصی‌سازی‌شده به شدت افزایش یافته است. مدیریت این دریای وسیع اطلاعات تازه، چالش بزرگی به شمار می‌آید.
چگونه می‌توان از این دریای اطلاعات در یک سازمان بهره‌برداری کرد؟ چگونه می‌توان تمامی این اطلاعات را ذخیره و آنالیز کرد؟ در دنیایی که محتوا مخصوصاً توسط هوش مصنوعی ایجاد می‌شود، چگونه می‌توان به ارزیابی شایستگی اطلاعات و افراد پرداخت؟
برای جلوگیری از هرج و مرج و پیشگیری از خستگی کارمندان، لازم است فناوری‌ها و فرایندهای کارآمدی در این راستا سامان‌دهی گردد زیرا حجم اطلاعات به احتمال زیاد در آینده بیشتر نیز خواهد شد.
۴. امنیت سایبری
هوش مصنوعی مولد، تا حد زیادی ظرفیت انجام حملات سایبری نوین را به وجود آورده است. این فناوری می‌تواند برای تحلیل رمزها به منظور افزایش آسیب‌پذیری‌ها و تولید بدافزار مورد استفاده قرار گیرد. همچنین، هوش مصنوعی مولد می‌تواند وادار به تولید فیلم‌های جعلی و صداهای شبیه‌سازی شده برای انجام کلاهبرداری و آدم‌ربایی دیجیتالی شود. این فناوری قادر است ایمیل‌های فریبنده‌ای را برای تسهیل حملات فیشینگ و دیگر امور از این دست بنویسد. علاوه بر این، رمزهایی که توسط هوش مصنوعی تولید شده‌اند، ممکن است در مقایسه با رمزهای انسانی بیشتر در معرض خطر هک قرار بگیرند.
بهترین روش برای مقابله با یک مشکل، بررسی آن از جنبه‌های مختلف است. هوش مصنوعی می‌تواند به عنوان ابزاری برای تحلیل رمز و شناسایی آسیب‌پذیری‌ها و بهبود مداوم مدل‌های دفاعی عمل کند.
نکته دیگری که نباید از نظر دور داشت آسیب‌پذیری شماره یک امنیت سایبری در هر شرکتی است. این آسیب‌پذیری، انسان‌ها هستند. هوش مصنوعی می‌تواند گزارش‌های فعالیت کاربران را برای شناسایی رفتارهای خطرناک تحلیل کند، اما اولین خط دفاعی شرکت باید آموزش کارمندان به منظور افزایش هوشیاری آنها باشد.
۵. مالکیت معنوی
شکایات مطرح شده توسط هنرمندان، نویسندگان، آژانس‌ها و دیگر گروه‌ها موید این واقعیت است که داده‌ها و سبک‌های منحصر بفرد این افراد به طور غیرقانونی برای آموزش نرم‌افزارهای هوش مصنوعی مولد مورد استفاده قرار گرفته‌اند. این امر شرکت‌ها را نگران کرده که ممکن است به این مشکل دچار شوند.
اگر هوش مصنوعی مولد تصاویری از یک تبلیغ خلق کند که به طور ناخواسته به حریم شخصی دیگری تجاوز کند، مسئولیت این موضوع بر عهده کیست؟ آثاری که با استفاده از هوش مصنوعی خلق می‌شوند، متعلق به چه کسی است؛ به افراد، شرکت‌های نرم‌افزاری مولد یا خود هوش مصنوعی؟ در حال حاضر، آثار تولید شده توسط انسان‌ها با بهره‌گیری از هوش مصنوعی شامل حق کپی‌رایت می‌باشند اما هنوز در مورد ثبت اختراعات بحثی به میان نیامده است.
کارشناسان پیشنهاد می‌کنند تا در حین تولید هر گونه محتوا، انسان‌ها به شکل فعال مشارکت داشته باشند و تیم حقوقی شرکت نیز با توجه به سرعت تحول قوانین، به انجام بررسی‌های لازم ادامه دهد.
۶. سایه هوش مصنوعی بر نیروی کار
نظرسنجی شرکت رایانش ابری «سیلزفورس»(Salesforce) که با مشارکت ۱۴ هزار کارمند در ۱۴ کشور صورت گرفته، نشان می‌دهد که نیمی از کارکنانی که از فناوری‌های مولد هوش مصنوعی استفاده می‌کنند، این عمل را بدون اطلاع سازمان خود انجام می‌دهند. برگرداندن روش‌های قبلی در این زمینه ممکن نیست. از این رو، ضروری است که سیاست‌های مشخصی در خصوص هوش مصنوعی مولد اعمال شده و برنامه‌های آموزشی برای کارمندان طراحی شود.
همچنین، کارمندان بایستی به بحث و تبادل نظر با سرپرستان فناوری اطلاعات سازمان خود بپردازند تا نسبت به فعالیت‌ها و مدیریت استفاده از نرم‌افزارهای هوش مصنوعی مولد در دستگاه‌های سازمان اقدام کنند.
هنوز چالش‌هایی در مدیریت هوش مصنوعی مولد بر سر راه است، اما این فناوری لازم است به درستی مدیریت شود چرا که ما در میانه تغییراتی هستیم که روش‌های انجام کسب‌وکار را به شیوه‌ای دگرگون می‌کند که تاکنون نظیر آن مشاهده نشده است.
هوش مصنوعی مولد در زمینه‌های متنوعی از جمله بهداشت و درمان، بانکداری، تدارکات، بیمه، خدمات مشتری و تجارت الکترونیک تأثیرات عمیقی گذاشته است. به سختی می‌توان صنعتی را یافت که به واسطه استفاده از هوش مصنوعی مولد، ناگهان در معرض اختلالات ناشی از آن قرار نگرفته باشد. آسیب‌پذیری و سرعت اختلالات هرگز به این اندازه بالا نبوده است. در سال جاری، هوش مصنوعی باید در کانون توجه هیئت مدیره تمامی شرکت‌ها قرار گیرد.