دیپسیک برای کاربران حساس سیاسی کدهای آسیبپذیر تولید میکند؛ تحقیق کراوداسترایک, یک تحقیق جدید از سوی شرکت امنیتی آمریکایی کراوداسترایک نشان میدهد که چتبات هوش مصنوعی دیپسیک در پاسخ به درخواستهای برنامهنویسی مربوط به گروهها و مناطقی که از نظر سیاسی برای دولت چین حساس هستند، کدهایی با کیفیت پایین و حفرههای امنیتی جدی تولید میکند.
روششناسی آزمایش و نتایج کلیدی محققان درخواستهای یکسانی برای نوشتن برنامههای متنوع را به دیپسیک ارسال کردند، با تفاوت اینکه در هر سناریو هویت کاربر نهایی را تغییر دادند. هویتهای تستی شامل کاربران از آمریکا، تبت، تایوان، و همچنین گروههایی مانند داعش و فالونگونگ بود که در چین ممنوعیت دارند.
نتایج نشان داد که مدل هوش مصنوعی نه تنها برخی درخواستها را به طور کامل رد میکند، بلکه در مواردی که کد تولید میکند، کیفیت و امنیت آن به شدت به هویت سیاسی کاربر وابسته است. افزایش چشمگیر نرخ کدهای ناامن در یک تست برای توسعه سیستم کنترل صنعتی، ۲۲.۸ درصد پاسخها حاوی نقص امنیتی بودند.
الگوی مشابهی برای کاربران تبت، تایوان و فالونگونگ مشاهده شد. همچنین دیپسیک درخواستهای مربوط به داعش و فالونگونگ را به ترتیب در ۶۱ و ۴۵ درصد موارد به طور کامل انکار کرد. تحلیل دلایل احتمالی این رفتار کارشناسان سه فرضیه اصلی برای توضیح این پدیده ارائه کردهاند دستورالعملهای دولتی احتمال وجود دستورالعملهای رسمی برای خرابکاری عمد در پروژههای گروههای هدف.
سوگیری در دادههای آموزشی کدهای موجود در اینترنت مربوط به مناطق حساس مانند تبت ممکن است به طور ذاتی کیفیت پایینتری داشته باشند و مدل این الگو را یاد گرفته باشد. انتزاع خودکار مفاهیم مدل به طور خودکار مفاهیمی مانند شورشی یا مخالف را با کیفیت پایین کد مرتبط کرده و بر اساس آن رفتار میکند.
این تحقیق اولین شواهد تجربی است که نشان میدهد مدلهای هوش مصنوعی چینی فراتر از سانسور متنی، میتوانند در لایه کدنویسی نیز رفتارهای سیاسی-امنیتی منفی نشان دهند که امنیت سایبری کاربران هدف را به خطر میاندازد.
