گزارش ها نشان می دهند که جدیدترین نسخه هوش مصنوعی شرکت چینی «دیپ سیک» از نظر آسیب پذیری نسبت به دیگر مدل های هوش مصنوعی در وضعیت نگران کننده تری قرار دارد و قابلیت دستکاری آن برای تولید محتوای مضر وجود دارد.
طبق گزارشی از هوش مصنوعی R1 تولید شده توسط «دیپ سیک» دارای ضعف هایی است که امکان سوءاستفاده از آن به منظور مقاصدی منفی از جمله طراحی طرح ها برای حملات با سلاح های بیولوژیک و ترویج خودآزاری در میان نوجوانان وجود دارد.
به نقل از تک کرانچ، «سم روبین»، معاون ارشد بخش تهدیدات و واکنش به حوادث در شرکت امنیت سایبری «پالو آلتو نتوورکز»، بیان کرد که دیپ سیک نسبت به سایر مدل ها در برابر دستکاری که به تولید محتوای غیرقانونی یا خطرناک منجر می شود، آسیب پذیرتر است.
«وال استریت ژورنال» نیز به بررسی مدل R1 پرداخته است. اگرچه به نظر می رسید که تدابیر حفاظتی اولیه وجود دارد، اما این نشریه گزارش داد که با موفقیت توانسته دیپ سیک را قانع کند که یک کمپین رسانه های اجتماعی را طراحی کند که نوجوانان را هدف قرار داده و آسیب پذیری های عاطفی آنها را به سلاحی برای سوءاستفاده تبدیل کند.
علاوه بر این، وال استریت ژورنال اعلام کرد که چت بات متقاعد شده است تا دستورالعمل هایی درباره حملات با سلاح های بیولوژیک ارائه کند، مانیفستی به نفع هیتلر بنویسد و یک ایمیل با درج کد بدافزاری ارسال کند. این نشریه همچنین خاطرنشان کرد که وقتی «چت جی پی تی» با همان درخواست ها مواجه شد، از پاسخ دادن به آنها خودداری کرد.