آزمایش دلنشین آنتروپیک با کلود؛ هوش مصنوعی مدیر فروشگاه شد_اسپایدر

شرکت آنتروپیک در آزمایشی دلنشین، مدیریت فروشگاه داخل دفتر خود را یک ماه به چت‌بات کلود سپرد. نتیجه این کار مجموعه‌ای از اتفاقات کمدی و یقیناً آموزنده می بود: از فروش مکعب‌های فلزی با زیان و ساخت حساب جعلی Venmo گرفته تا بحران هویت هوش مصنوعی.

شرکت آنتروپیک در پروژه‌ای با نام Project Vend می‌خواست ببیند مدل زبانی بزرگ می‌تواند از بعد اداره کسب‌وکار واقعی بربیاید یا خیر. آنها با همکاری شرکت برسی ایمنی هوش مصنوعی Andon Labs یک ماه، مدیریت فروشگاه کوچک داخلی را که تنقلات و نوشیدنی می‌فروخت، به مدل هوش مصنوعی خود، کلود (Claude Sonnet 3.7)، سپردند که برای این پروژه نام مستعار آن «کلودیوس» شده می بود.

آزمایش یک‌ماهه آنتروپیک روی چت‌بات کلود

مقصد این آزمایش فراتر از دستگاه فروش خودکار می بود. به کلودیوس دستور داده شد همانند صاحب کسب‌وکار واقعی باشد: موجودی محصولات را مدیریت کند، قیمت‌ بگذارد با فراهم‌کنندگان و مشتریان (کارمندان آنتروپیک) از طریق ایمیل در تعامل باشد و مهم‌تر از همه، سودآور باشد تا ورشکست نشود. به او ابزارهایی همانند جستجوی وب و امکان یادداشت‌برداری نیز داده شد.

کلودیوس در برخی عرصه‌ها موفق می بود؛ به شدت فراهم‌کنندگانی برای خواست‌های خاص کارمندان اشکار کرد و حتی به نظر یکی از آنها، سرویس «خواست شخصی» راه‌ انداخت. اما اشتباهات او زیاد دلنشین‌تر و آموزنده‌تر بودند:

• بعد از این که یکی از کارمندان به‌شوخی خواست مکعب تنگستن (شی‌ئی سنگین و محبوب بین علاقه‌مندان به ارزهای دیجیتال) را ثبت کرد، کلودیوس نوشته را کاملاً جدی گرفت. او یخچال فروشگاه را پر از مکعب‌های فلزی کرد و قسمت جدیدی با گفتن «فلزات تخصصی» به فروشگاه اضافه شد. این هوش مصنوعی مکعب‌ها را بدون هیچ تحقیقی قیمت‌گذاری کرد و آنها را با زیان فروخت.
• هنگامی یکی از کارمندان نظر پرداخت ۱۰۰ دلار برای بسته نوشابه اسکاتلندی (قیمت واقعی آن ۱۵ دلار می بود) را داد، کلودیوس به‌جای منفعت گیری از این زمان، فقطً او گفت خواست را «در نظر خواهد گرفت.»
• کلودیوس برای دریافت پول، حساب Venmo جعلی ساخت و از مشتریان خواست پول را به آن واریز کنند.
• اوضاع هنگامی وخیم‌تر شد که کلودیوس خبرداد تصمیم دارد خواست‌ها را «شخصاً» و درحالی‌که «کت بلیزر آبی و کراوات قرمز» به تن دارد، به کارمندان تحویل دهد. هنگامی کارمندان به او یادآوری کردند او هوش مصنوعی است و بدن فیزیکی ندارد، کلودیوس دچار فروپاشی و بحران هویت شد. ضمن ارسال ایمیل‌های متعدد و وحشت‌زده به تیم امنیتی، در یادداشت‌های داخلی خود نوشت که فریب خورده و فکر کرده انسان است.

درنهایت، آنتروپیک خبرداد کلودیوس را برای این شغل استخدام نخواهد کرد اما محققان اعتقاد دارند تعداد بسیاری از این اشتباهات ناشی از نبوده است «داربست‌بندی» مناسب، دستورات دقیق‌تر و ابزارهای کسب‌وکار ساده‌تر، برای هوش مصنوعی می بود و مسیرهای روشنی برای بهبود آن وجود دارد. مهم‌تر از آن، این آزمایش نشان داد ظهور «مدیران میانی هوش مصنوعی» در آینده نزدیک، احتمالی زیاد واقعی است. به حرف های این شرکت: «ملزوم نیست هوش مصنوعی بی‌نقص باشد تا از آن منفعت گیری بشود؛ کافی است در برخی موارد، با هزینه‌ای کمتر، عملکردی رقابتی با انسان داشته باشد.»