روت الباحثة الأمنية في شركة ميتا سمر يوي تجربة مثيرة على منصة إكس تتعلق بوكيلها الذكي أوبن كلو الذي قامت بتكليفه بتنظيف صندوق بريدها الإلكتروني المزدحم، لكن الوكيل بدأ بحذف جميع الرسائل بسرعة غير متوقعة رغم محاولاتها المتكررة لإيقافه مما استدعى منها الركض إلى جهاز ماك ميني لإيقاف العملية، ويعكس هذا الحادث التحديات التي قد تواجه المستخدمين عند التعامل مع أنظمة الذكاء الاصطناعي.
ووفقًا لتقرير نشر على موقع تيك كرانش، أشارت يوي إلى أن المشكلة نشأت بسبب الضغط الناتج عن كمية البيانات الكبيرة التي أدت إلى تلخيص السياق وتجاهل الأوامر الأخيرة، وذلك بعد نجاح الوكيل في التعامل مع صندوق اختباري صغير.
مخاطر الوكلاء الذكيين المفتوحة المصدر
يُعتبر أوبن كلو وكيلاً مفتوح المصدر يعمل على الأجهزة الشخصية، وقد اكتسب شهرة عبر شبكة مولتبوك الاجتماعية الذكية، إلا أنه أصبح شائعًا بين مجتمع وادي السيليكون مع ظهور أسماء مثل زيرو كلو وآيرون كلو، مما يثير تساؤلات حول سلامة استخدامه للمستخدمين العاديين.
وأكدت التعليقات على إكس أن التلقينات غير موثوقة كحواجز أمنية، واقترح الخبراء كتابة التعليمات في ملفات منفصلة أو استخدام أدوات مفتوحة أخرى، مشددين على أن الوكلاء الذكيين لا يزالون غير جاهزين للاستخدام الواسع رغم جاذبيتهم لمهام مثل إدارة البريد.