OpenAI با سواستفاده از ChatGPT برای رصد شبکه‌های اجتماعی مقابله کرد_اسپایدر

OpenAI اظهار کرده که چند حساب کاربری مرتبط با چین را که از ChatGPT برای طراحی تبلیغات و پروژه‌ای مربوط به یک ابزار رصد شبکه‌های اجتماعی منفعت گیری می‌کردند، مسدود کرده است.

بر پایه اظهار این شرکت، این حساب‌ها از طریق VPN از چین به ChatGPT متصل می‌شدند و انگارً برای یک مشتری دولتی درحال کار بودند. ابزاری که این حساب‌ها روی آن کار می‌کردند، به‌گفتن رصدکننده شبکه‌های اجتماعی توصیف شده است که به اپراتورها پشتیبانی می‌کند پلتفرم‌هایی همانند ایکس، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب را از نظر محتوای مرتبط با قومیت، مذهب یا سیاست پایش کنند.

اکانت‌های مسدودشده ChatGPT به گمان زیادً به نهادی دولتی در چین وابسته بوده‌اند

OpenAI پافشاری کرده که حساب‌های مسدودشده از مدل‌های هوش مصنوعی این شرکت برای رصد شبکه‌های اجتماعی منفعت گیری نکرده‌اند و این چنین شرکت قادر نیست به‌طور جدا گانه قبول کند که آیا این ابزار واقعاً توسط نهادهای دولتی چین مورد منفعت گیری قرار گرفته است یا خیر.

OpenAI این چنین یک حساب دیگر را مسدود کرده که از ChatGPT برای تهیه پیشنهادی در رابطه یک پروژه مرتبط با رصد تحرکات مسلمانان اویغور منفعت گیری می‌کرده است. حرف های می‌بشود این سیستم برای ردیابی جابه‌جایی اویغورها، تطبیق اطلاعات با اسبق پلیس و صدور هشدارهای زودهنگام بابت جابه‌جایی‌های آنها طراحی شده می بود. در سال‌های تازه، گروه‌های دفاع کننده حقوق بشر چندین دفعه دولت چین را به نقض حقوق مسلمانان اویغور متهم کرده‌اند.

گزارش منتشرشده توسط OpenAI این چنین جزئیات بیشتری درمورد گروه‌های چینی، روسی و کره‌ای اراعه می‌دهد که انگارً در تلاش بوده‌اند از ChatGPT برای گسترش و بهبود بدافزارها از جمله تروجان‌های دسترسی از راه دور، ابزارهای سرقت اطلاعات و نرم‌افزارهایی برای دورزدن فرایندهای شناسایی در سیستم‌ها منفعت گیری کنند.

OpenAI این چنین شبکه‌های کلاهبرداری مستقر در کامبوج، میانمار و نیجریه را که تلاش در سوءاستفاده از مدل‌های این شرکت داشتند، شناسایی و مختل کرده است.