چت‌‌بات‌هایی با اطلاعات قدیمی؛ دستیاران هوش‌ مصنوعی دستگاه‌های اجرایی رونمایی شدند_اسپایدر

در نشست امروز معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری، از دستیاران هوش مصنوعی اختصاصی دستگاه‌های اجرایی رونمایی شد؛ رونمایی‌ای که نشان داد این چت‌بات‌ها تا این مدت مسیر طویل تا رسیدن به کارایی واقعی پیش رو دارند.

به نقل از دیجیاتو، معاونت علمی مسئولیت نظارت بر پیشرفت پروژه‌های هوش مصنوعی دستگاه‌ها را بر مسئولیت گرفته است. این سامانه‌ها قرار است با شناخت دقیق نیازهای هر دستگاه، بخشی از اطلاعات عمومی و اختصاصی آن‌ها را پردازش کنند. با این حال، در مراسم امروز ضعف‌هایی آشکار شد؛ از جمله افتداده و منفعت گیری از اطلاعات قدیمی. برخی چت‌بات‌ها حتی برای جواب به سوال‌ها به اسناد و قوانین سال ۱۳۹۵ استناد می‌کردند.

من فقط به سوالات مرتبط جواب می‌دهم!

«حسین افشین»، معاون علمی، فناوری و اقتصاد دانش‌بنیان رئیس‌جمهور، در این نشست با اراعه پرامپت‌های گوناگون تلاش کرد نحوه جواب‌گویی این چت‌بات‌ها را به نمایش بگذارد. نتایج نشان داد که تعداد بسیاری از آن‌ها در شیوه اراعه و دقت اطلاعات ضعف دارند و حتی فهمیدن درستی از سوال‌ها اشکار نمی‌کنند.

برخی از این دستیاران به عمد محدود شده‌اند. برای نمونه، دستیار هوشمند وزارت تعاون، کار و رفاه اجتماعی در جواب به سوال «آب‌وهوای تهران چطور است؟» او گفت: «من فقط به سوالات مرتبط با وزارت تعاون جواب می‌دهم.» افشین این رویکرد را نقد کرد و او گفت: «هوش مصنوعی باید بتواند به نیاز کاربر جواب دهد. فقطً نقل کردن قوانین، هوشمندسازی نیست و باید توانایی جواب‌گویی عمومی هم داشته باشد.»

یکی از نکات مهم این پروژه‌ها این است که دستیاران هوش مصنوعی قرار نیست اطلاعات خود را از خبرگزاری‌ها یا منبع های آزاد دریافت کنند، بلکه داده‌ها باید توسط ادمین‌ها بارگذاری بشود. این نوشته وابستگی شدیدی به همکاری دستگاه‌های اجرایی در به‌اشتراک‌گذاری اطلاعات تشکیل می‌کند؛ همکاری‌ای که مقدار آن تا این مدت اشکار نیست.

افشین در جواب به این سوال که آیا ملزوم است مدل زبانی اختصاصی ساخته بشود، گفت: «مقصد ما فقطً ساخت یک پوسته نیست. گسترش فنی بر مسئولیت تیم تخصصی معاونت علمی است و دستگاه‌ها فقط باید نیازها و خواست‌های خود را اظهار کنند.»

به حرف های او، سورس همه دستیاران در اختیار معاونت علمی است و ورود دستگاه‌ها به گسترش مدل‌های زبانی ضرورتی ندارد، مگر در موارد خاص همانند وزارت ارتباطات که ماهیت کاری‌اش ایجاب می‌کند. او پافشاری کرد: «اگر مقصد فقط ساخت پوسته می بود، می‌توانستیم از مدل‌های آماده منفعت گیری کنیم؛ اما رویکرد ما منفعت‌گیری از زبان‌های پایه دارای لایسنس معتبر و تأییدشده است.»

در مراسم امروز، چند نمونه از دستیارهای هوش مصنوعی نیز معارفه شدند؛ از جمله «یارینو» که توسط شرکت نکسینو گسترش یافته، «هم‌زیست» محصول دانشگاه پرورش مدرس با تمرکز بر حوزه محیط‌زیست، «ویر» به‌گفتن دستیار هوشمند استاندار که دانشگاه ایلام آن را ساخته و این چنین دستیار رسانه‌ای هوش مصنوعی که شرکت دیتاک آن را اراعه کرده است.

معاونت علمی این مراسم را با گفتن «اراعه نسخه اولیه دستیاران هوش مصنوعی دستگاه‌های اجرایی» برگزار کرد اما قضیه‌ای که آشکار به نظر می‌رسید، آماده نبودن این پروژه‌ها است. تعداد بسیاری از این پروژه‌ها با وجود دسترسی داشتن به اطلاعات و همکاری با دستگاه‌ها،‌ از مقصد نهایی زیاد دورند. این دستیاران با وجود اطلاعاتی که تنها در دسترس آن‌ها است باید بتوانند خروجی بهتری داشته باشند اما همان گونه که در جلسه تست شد، ChatGPT تنها با منفعت‌گیری از اطلاعات عمومی، جواب بهتری نسبت به این چت‌بات‌ها داد.

معاون علمی، فناوری و اقتصاد دانش‌بنیان رئیس‌جمهور، باور دارد که این پروژه‌ها تنها یک پوسته نیستند و قرار است عملکردی مجزا از چت‌بات‌های دیگر داشته باشند. با این حال نشست امروز نشان داد که حتی پیاده‌سازی یک پوسته کارآمد نیز برای این پروژه‌ها چالش‌برانگیز است، چه برسد به گسترش کامل و جدا گانه آن‌ها. 

«مدل زبانی» یا «پوسته»؟

نشست امروز بیشتر از آنکه یک رونمایی رسمی باشد، به آزمایشی برای سنجش کارکرد دستیارهای هوش مصنوعی شباهت داشت؛ آزمایشی که احتمالا بهتر می بود معاونت علمی در فضایی خصوصی و فقطً با وجود گسترش‌دهندگان این چت‌بات‌ها برگزار می‌کرد. علت این نوشته، آماده نبودن و به گفتن دقیق‌تر، نداشتن صلاحیت ملزوم این سامانه‌ها برای منفعت گیری در دستگاه‌های اجرایی است.

از آن‌جایی که دولت تصمیم دارد از این هوش مصنوعی‌ها در تصمیم‌گیری‌ها منفعت گیری کند، دقت و اراعه جواب صحیح نقشی حیاتی دارد و همین حساسیت، روال گسترش این ابزارها را دشوارتر می‌کند. در جریان جلسه، نماینده وزارت امور خارجه خبرداد که در منفعت گیری از «دستیار رسانه‌ای هوش مصنوعی» با مشکل روبه رو شده و این سامانه نتوانسته کارکرد درستی اراعه دهد.

برخی نمایندگان دیگر دستگاه‌ها نیز در این نشست وجود نداشتند، اما به نظر می‌رسد در صورت وجود، بازخورد آن‌ها تفاوت چندانی با توانایی وزارت خارجه نداشت. معاونت علمی در آخر نشست اصرار کرد که ماه آینده در جلسه‌ای قرار است مجدد این دستیاران هوش مصنوعی، مورد بازدید قرار بگیرند.