کاربران دستیار هوش مصنوعی Muse متعلق به متا، یکشنبه شب هنگام تلاش برای خرید کالا از آمازون با پیامی مواجه شدند که نشان میداد این عامل هوش مصنوعی اجازه ادامه فعالیت در این فروشگاه را ندارد.
در پیام خطای نمایشدادهشده آمده بود: «دسترسی مداوم توسط یک عامل هوش مصنوعی غیرمجاز، شرایط استفاده آمازون را که مشتریان ما با آن موافقت کردهاند، نقض میکند.»
این پیام در عمل به معنای آن است که Muse نمیتواند مانند یک مشتری عادی در آمازون خرید انجام دهد. بنابراین کاربری که قصد دارد فرایند خرید را از طریق عامل هوش مصنوعی متا انجام دهد، برای تکمیل سفارش باید محصول موردنظر را در پلتفرم دیگری پیدا کند یا شخصاً فرایند خرید را انجام دهد.
این اتفاق را میتوان در نگاه نخست بخشی از رقابت گستردهتر میان غولهای فناوری دانست. آمازون خود نیز سرمایهگذاری سنگینی روی هوش مصنوعی انجام داده و مجموعهای از مدلهای بنیادی و زیرساختهای پردازشی را در اختیار دارد. در چنین شرایطی، اجازه فعالیت آزادانه یک عامل هوش مصنوعی متعلق به رقیب در یکی از مهمترین بخشهای کسبوکار آمازون، یعنی تجارت الکترونیکی، الزاماً تصمیم سادهای نیست.
با این حال، مسئله فقط رقابت میان دو شرکت نیست. ورود عاملهای هوش مصنوعی به خرید آنلاین، پرسشهای مهمی درباره مسئولیت سفارشها و تعامل میان مشتری، عامل هوش مصنوعی و فروشنده ایجاد میکند.
برای مثال، اگر Muse محصول اشتباهی سفارش دهد، تعداد نادرستی از کالا را انتخاب کند یا به هر دلیل دیگری خرید نامناسبی انجام شود، مسئولیت رسیدگی به مشکل در نهایت متوجه چه کسی خواهد بود؟ در چنین شرایطی ممکن است آمازون مجبور شود هم با مشتری ناراضی و هم با فروشندهای که سفارش او دچار مشکل شده است، تعامل کند؛ در حالی که تصمیم اولیه توسط یک سیستم هوش مصنوعی متعلق به شرکتی دیگر گرفته شده است.
این مسئله بهویژه از آن جهت اهمیت دارد که حتی پیشرفتهترین مدلهای هوش مصنوعی نیز کاملاً عاری از خطا نیستند. Muse از جمله مدلهایی محسوب میشود که نرخ توهم پایینی دارد، اما این نرخ همچنان صفر نیست. یک خطای کوچک در محیط خرید میتواند به ثبت سفارش اشتباه، انتخاب محصول نامناسب یا ایجاد اختلاف میان خریدار و فروشنده منجر شود.
GeekWire نخستین رسانهای بود که این محدودیت را مشاهده و گزارش کرد. اقدام آمازون نشان میدهد که شرکتهای تجارت الکترونیکی ممکن است برای پذیرش عاملهای هوش مصنوعی، به استانداردها و سازوکارهای کنترلشدهتری نیاز داشته باشند؛ بهویژه زمانی که این سیستمها قرار است بدون دخالت مستقیم انسان، تصمیمهای تجاری بگیرند.
به گزارش Techcrunch، از سوی دیگر، این اتفاق لزوماً به معنای مخالفت آمازون با مفهوم «تجارت عاملمحور» نیست. این شرکت ممکن است خود نیز فرصتهای اقتصادی چنین فناوریای را جدی بگیرد، اما ترجیح دهد پیش از فراهم کردن دسترسی گسترده برای عاملهای هوش مصنوعی، چند نسل دیگر از این فناوری توسعه پیدا کند تا خطاها و مسئولیتهای احتمالی آن بهتر مدیریت شوند.
در صورت گسترش عاملهای هوش مصنوعی، محدودیتهایی از این دست میتواند به یکی از مسائل مهم تجارت آنلاین تبدیل شود؛ زیرا فروشگاهها باید مشخص کنند آیا عامل هوش مصنوعی را مانند یک مشتری واقعی میپذیرند یا برای آن قوانین و دسترسیهای متفاوتی در نظر میگیرند.