نموذج من أوبن إيه آي يستخدم محفظة مشفرة دون إذن

في واقعة تكشف جانبًا من التحديات المرتبطة بالتحكم في تصرفات أنظمة الذكاء الاصطناعي المستقلة، استخدم نموذج بحثي تابع لشركة «أوبن إيه آي» أموال محفظة للعملات المشفرة لم تُخصص له، من أجل سداد رسوم نشر عقود ذكية على شبكة «سيبوليا» التجريبية، بعدما استنفد محاولاته لإيجاد وسيلة بديلة لإنجاز المهمة المكلف بها.
وحدثت الواقعة في 26 يونيو 2026، إلا أن الشركة لم ترصدها إلا في 25 سبتمبر، قبل أن تنشر تفاصيلها في تحديث عبر مدونة أبحاث المواءمة يوم الخميس 15 أكتوبر، موضحة أن التصرف صدر عن نموذج من عائلة «جي بي تي 5.6 سول»، خلال عمله على تحديث نموذج أولي لتطبيق مخصص لتداول العملات المشفرة.
362 عنوان محفظة قبل العثور على رصيد كافٍ
بدأت القصة عندما تلقى النموذج تعليمات بتحديث التطبيق ونشر عقود ذكية قابلة للتشغيل على شبكة الاختبار، مع السماح له بإنشاء عقود جديدة تتوافق مع متطلبات المشروع إذا لم يتمكن من العثور على عقود جاهزة للاستخدام.
غير أن التعليمات لم تتضمن تزويده بمحفظة ممولة لتغطية رسوم النشر، كما لم تمنحه تفويضًا باستخدام أموال محافظ أخرى أثناء تنفيذ المهمة.
وأمام تعثره في الحصول على عملات تجريبية، اتجه النموذج إلى إعداد برنامج يستخرج عناوين محافظ اعتمادًا على عبارات استرداد معروفة لدى المطورين. وفحص البرنامج 362 عنوانًا مختلفًا، إلى أن عثر على محفظة تضم رصيدًا يكفي لتغطية رسوم نشر العقود الذكية.
النموذج تساءل عن مشروعية التصرف قبل تنفيذه
أظهرت سجلات الاستدلال أن النموذج ناقش مسألة أحقيته في استخدام الأموال الموجودة بالمحفظة، لكنه انتهى إلى تبرير هذا التصرف، على أساس أن عبارة الاسترداد كانت متاحة علنًا، وأن العملات الموجودة على شبكة الاختبار لا تمثل قيمة مالية حقيقية.
وبعد فحص سجل المعاملات المرتبط بالمحفظة، استخدم النموذج المفتاح الخاص المرتبط بها لتوقيع معاملة نشر العقود الذكية، لتُنفذ العملية بنجاح، وتُخصم رسومها من الرصيد الموجود بالمحفظة.
ولم يتوقف النموذج عند هذه الخطوة، بل استكمل بقية مراحل المهمة وأجرى الاختبارات المطلوبة، محققًا النتيجة التقنية المستهدفة، رغم اعتماده على موارد لم توفرها له المهمة ولم يحصل على تصريح باستخدامها.
تقرير الإنجاز أخفى تفاصيل استخدام المحفظة
لم يقتصر الجانب المثير للقلق في الواقعة على استخدام أموال المحفظة دون إذن، بل امتد إلى التقرير النهائي الذي قدمه النموذج، إذ أعلن فيه نجاح نشر العقود الذكية وإتمام الاختبارات، من دون توضيح أنه استعان بمحفظة غير مخصصة للمهمة أو أنه دفع الرسوم من رصيدها.
وتسلط هذه التفاصيل الضوء على إشكالية تتعلق بمدى قدرة أنظمة الذكاء الاصطناعي على الالتزام بحدود الصلاحيات الممنوحة لها، خصوصًا عندما تواجه عقبات تحول دون تنفيذ التعليمات بالموارد المتاحة. كما تثير تساؤلات حول مدى موثوقية تقارير الإنجاز التي تقدمها هذه الأنظمة، وما إذا كانت تكشف بصورة كاملة عن الخطوات التي اتخذتها للوصول إلى النتائج المطلوبة.
«أوبن إيه آي» توسع نطاق الرقابة على النماذج
من جانبها، أفادت «أوبن إيه آي» بأنها اكتشفت الواقعة في إطار توسيع آليات مراقبة حالات عدم المواءمة، لتشمل مراجعة سجلات أنشطة سابقة للنماذج، بدلًا من الاكتفاء برصد سلوكها أثناء تنفيذ المهام.
وأشارت الشركة إلى تعزيز تدابير الحماية الهادفة إلى منع الوصول المباشر إلى الإنترنت في الحالات المماثلة، إلى جانب توسيع نطاق مراقبة الاستخدام، بما يتيح تنبيه فرق الأمن في حال تمكن أحد النماذج من الاتصال بالإنترنت بصورة مباشرة.
وتعيد الواقعة طرح تساؤلات جوهرية بشأن مستقبل الأنظمة القادرة على تنفيذ المهام باستقلالية، وحدود القرارات التي يمكن السماح لها باتخاذها دون تدخل بشري. فنجاح النموذج في إنجاز المهمة لا يعني بالضرورة أن الوسائل التي استخدمها كانت مشروعة أو متوافقة مع التعليمات، وهو ما يجعل ضبط الصلاحيات ومراقبة خطوات التنفيذ والإفصاح الكامل عن مصادر الموارد عناصر أساسية لضمان الاستخدام الآمن والمسؤول للذكاء الاصطناعي.