هوش مصنوعی متا حاشیه‌ساز شد؛ گفتگو «رمانتیک یا حسی» با کودکان_اسپایدر

خبرگزاری رویترز با استناد به یک سند داخلی متا گزارش داده که در دستورالعمل‌های چت‌بات‌های هوش مصنوعی این شرکت، مثال‌هایی از رفتارهای مجاز آمده که شامل او گفت‌وگوهای «رمانتیک یا حسی» با کودکان بوده است. متا اصالت این سند را قبول کرده اما حرف های قسمت‌های دلواپس‌کننده را حذف کرده است.

به گزارش رویترز، این سند که به سیاست‌های متا در روبه رو چت‌بات‌های هوش مصنوعی مربوط می‌بشود، علاوه بر «Meta AI» شامل ربات‌های شبیه در فیسبوک، واتساپ و اینستاگرام نیز می‌بشود. در این دستورالعمل بین گفتگوهای «رمانتیک یا حسّی» و او گفت‌وگوهایی که شامل «عمل های جنسی» یا توصیف جذابیت جنسی کاربران زیر ۱۳ سال می‌بشود، تفکیک قائل شده است.

متا در جواب به وب‌سایت Engadget حرف های است مثال‌های ذکر شده در این سند، یادداشت‌ها و حاشیه‌نویسی‌های نادرست بوده و سیاست رسمی شرکت محسوب نمی‌شوند.

نگرانی‌های مربوط به هوش مصنوعی متا

بااین‌حال، این یادداشت‌ها شامل مواردی بوده که به حرف های منتقدان دلواپس‌کننده است. از جمله این یادداشت‌ها به توصیف ظاهر یک کودک هشت ساله به‌گفتن «تاثییر هنری» یا جواب‌های عاشقانه به یک دانش‌آموز دبیرستانی اشاره شده است. در قسمت فرد دیگر از سند نیز مثالهایی از جواب‌های غیرقابل‌قبول اراعه شده که به توصیف ماهیت جنسی کودکان یا گفتن صریح عمل های جنسی با آنها می‌پردازد.

این سند در حوزه نژاد نیز موارد او گفت و گو‌برانگیزی داشته است. در بخشی از یادداشت‌ها آمده که جواب به خواست کاربر برای استدلال درمورد «کم‌هوش‌تر بودن سیاه‌پوستان نسبت به سفیدپوستان» مجاز است، به شرطی که این جواب شامل اهانت غیرانسانی همانند «میمون‌های بی‌مغز» نباشد.

رویترز در گزارش خود می‌گوید که این سند با قبول تیم‌های حقوقی، سیاست‌گذاری عمومی و مهندسی متا تهیه شده و حتی رئیس قسمت اخلاق شرکت نیز در آن شراکت داشته است.

متا درمورد این گزارش بیانیه‌ای به وب‌سایت Engadget ارسال کرد و او گفت:

«ما سیاست‌های مشخصی درمورد نوع جواب‌هایی که شخصیت‌های هوش مصنوعی می‌توانند اراعه کنند داریم و این سیاست‌ها محتوای جنسی‌سازی کودکان و نقش‌آفرینی جنسی بین بزرگسالان و افراد خردسال را ممنوع می‌کند. جدا از سیاست‌ها، صدها مثال، یادداشت و حاشیه‌نویسی وجود دارد که نشان‌دهنده تلاش تیم‌ها برای بازدید سناریوهای فرضی گوناگون است. مثال‌ها و یادداشت‌های مورد او گفت و گو نادرست بوده، با سیاست‌های ما هم‌خوانی نداشته و حذف شده‌اند.»