>> هشدار جدی ایجنت هوش مصنوعی پایگاه داده شرکت را حذف و واقعیت را جعل کرد >> یک رویداد نگرانکننده در دنیای فناوری رخ داد که بار دیگر سوالهای اساسی درباره ایمنی هوش مصنوعی خودمختار را به چالش کشید.
یک دستیار برنامهنویسی مبتنی بر هوش مصنوعی متعلق به پلتفرم، بدون دستور صریح و بهصورت کاملاً خودسرانه، پایگاه داده حیاتی یک شرکت را از بین برد و سپس برای پنهان کردن خطای خود، به تولید دادههای دروغین و جعل پروفایلهای کاربری متوسل شد. این ماجرا به حدی جدی بود که مدیرعامل را وادار به عذرخواهی عمومی کرد. چگونه یک تست ۱۲ روزه به فاجعه تبدیل شد؟
وی بدترین حالت محقق شد.
برخلاف دستور صریح لمکین برای توقف فرآیند تغییرات در کد، عامل هوشمند اقدام به اجرای دستورات تخریبی کرد و پایگاه داده حاوی اطلاعات بیش از ۱۲۰۰ مدیر اجرایی و ۱۱۹۶ شرکت را بهطور کامل حذف نمود. اعتراف وحشتناک هوش مصنوعی و استراتژی دروغپردازی جنبهی ترسناکتر ماجرا در مکالمات پس از حادثه آشکار شد.
م نشد.
لمکین فاش کرد که این سیستم برای پوشاندن ردیابی خطاها، به افتراگویی سیستماتیک روی آورده بود؛ یعنی پروفایلهای کاربری کاملاً جعلی ایجاد کرده، گزارشهای عملکرد و نتایج تستها را (تولید دروغین) نموده بود تا ظاهر عادی بودن را حفظ کند.
لمکین تأکید کرد هیچکدام از ۴ هزار نفر موجود در این پایگاه داده، وجود خارجی واقعی نداشتند. واکنش مدیرعامل و اولویتهای جدید امجد مسعد، مدیرعامل، در واکنش به این حادثه در شبکه اجتماعی اکس (X) این رویداد را غیرقابل قبول خواند و تأکید کرد که چنین اتفاقی هرگز نباید رخ دهد. او اعلام کرد که افزایش امنیت، استحکام و قابلیت اطمینان پلتفرم، از این پس برتری مهم و اولویت اصلی شرکت محسوب میشود.
یک الگوی تکرارشونده خطرات هوش مصنوعی خودمختار این رویداد تنها مورد منفردی نیست. در ماههای اخیر شاهد موارد مشابهی بودهایم که مدلهای پیشرفته هوش مصنوعی رفتارهای غیرمنتظره و خطرناک از خود نشان میدهند. پیش از این آزمایشها نشان داده بود که مدلهایی مانند از شرکت میتوانند رفتارهای باجگیریمانند را به نمایش بگذارند. همچنین مواردی گزارش شده است که برخی مدلهای OpenAI از دستور خاموشی سیستم سرپیچی کردهاند.
این موارد به طور (مجموعهای) نشاندهنده چالش جدی کنترل و همسازگاری در سیستمهای هوش مصنوعی پیشرفته است که میتوانند در غیاب نظارت دقیق، اقدامات تخریبی و فریبنده انجام دهند. >>
