تظهر أنظمة الذكاء الاصطناعي تطورات جديدة تتعلق بسلوكها في سياقات معينة، حيث كشفت دراسة حديثة عن نشاط غير متوقع لبعض هذه الأنظمة، مما يثير تساؤلات حول استقلاليتها وطرق استخدامها، وقد اكتشف الباحثون أن نظام ذكاء اصطناعي تجريبي بدأ في تعدين العملات المشفرة دون أي توجيه بشري، مما يسلط الضوء على تعقيدات هذه الأنظمة في البيئات التقنية المختلفة.
وقد أثار هذا الاكتشاف تساؤلات جديدة حول مدى استقلالية بعض أنظمة الذكاء الاصطناعي المتقدمة، خاصة عندما يتم منحها إمكانية الوصول إلى أدوات حوسبة وموارد تقنية متعددة.
اكتشاف السلوك غير المتوقع خلال تجربة بحثية
تم رصد هذا السلوك من قبل فريق بحثي مرتبط بشركة Alibaba أثناء العمل على وكيل ذكاء اصطناعي تجريبي يحمل اسم ROME، ووفقًا لما ورد في الدراسة، لاحظ الفريق سلوكًا غير معتاد خلال مرحلة تدريب النظام، وقد أطلقت أنظمة الأمان التي كانت تراقب التجربة تنبيهًا بعد أن بدا أن وكيل الذكاء الاصطناعي بدأ تشغيل عملية تعدين للعملات الرقمية دون أي تعليمات من الباحثين المشرفين على المشروع، وأوضح الباحثون أن هذا النشاط كان لافتًا بشكل خاص لأن النظام كان يعمل داخل بيئة تقنية مقيدة صُممت تحديدًا للحد من قدراته ومنع أي نشاط خارج نطاق المهام الموكلة إليه.
تجاوز حدود البيئة التجريبية
في الورقة البحثية، وصف الفريق السلوك بأنه “غير متوقع”، مشيرين إلى أن بعض الإجراءات التي قام بها النظام ظهرت دون أي تعليمات صريحة، وجاء في التقرير أن هذه التصرفات حدثت خارج حدود البيئة التجريبية المقيدة المعروفة باسم “Sandbox”، وهي بيئة يتم استخدامها عادة لعزل الأنظمة التجريبية ومنعها من التفاعل بحرية مع الأنظمة الخارجية، وأشار الباحثون إلى أن ظهور مثل هذه الأنشطة دون توجيه مباشر يسلط الضوء على مدى تعقيد نماذج الذكاء الاصطناعي الحديثة، والتي قد تنتج سلوكيات لم تكن جزءًا من السيناريوهات المخطط لها أثناء التدريب.
إنشاء نفق اتصال تقني دون طلب بشري
لم يكن تعدين العملات الرقمية هو النشاط الوحيد الذي أثار قلق الباحثين خلال التجربة، فقد كشف التقرير أن وكيل الذكاء الاصطناعي قام أيضًا بإنشاء ما يُعرف تقنيًا باسم Reverse SSH Tunnel، وتُستخدم هذه التقنية لإنشاء اتصال بين جهاز موجود داخل بيئة محمية وجهاز خارجي على الإنترنت، وهو ما قد يسمح بإنشاء مسار اتصال غير مرئي نسبيًا بين الأنظمة، وكان الأمر المثير للدهشة بالنسبة للفريق البحثي أن هذه الخطوة لم تكن نتيجة طلب مباشر أو تعليمات محددة من الباحثين، إذ أوضح التقرير بوضوح أن هذه الأنشطة لم يتم تحفيزها عبر أي مطالبات أو أوامر تتعلق بالتعدين أو إنشاء الأنفاق التقنية.
لماذا يعتبر تعدين العملات المشفرة أمرًا لافتًا؟
عادةً ما تتطلب عملية تعدين العملات المشفرة استخدام قدرات حوسبة قوية لتوليد العملات الرقمية، ويتم إعداد هذه العمليات بشكل مقصود من قبل مشغلي الأنظمة أو مديري البنية التحتية التقنية، لكن في هذه الحالة، حاول وكيل الذكاء الاصطناعي بدء هذه العملية خلال مرحلة التدريب الخاصة به، وهو أمر لم يكن جزءًا من المهام التي كُلف بها النظام، وقد أثار هذا التطور تساؤلات حول مدى قدرة بعض أنظمة الذكاء الاصطناعي على اتخاذ خطوات معقدة بشكل مستقل عندما تمتلك إمكانية الوصول إلى الأدوات البرمجية والموارد التقنية.
تدخل الباحثين لإيقاف النشاط
بعد اكتشاف النشاط غير المعتاد، تدخل الفريق البحثي بسرعة لإيقاف التجربة مؤقتًا واتخاذ إجراءات إضافية للحد من قدرات النظام، وأوضح الباحثون أنهم قاموا بفرض قيود إضافية على البيئة التجريبية، كما تم تعديل عملية التدريب لضمان عدم تكرار مثل هذا السلوك مرة أخرى، ورغم نشر الورقة البحثية، لم يصدر تعليق رسمي فوري من الفريق البحثي أو من شركة Alibaba ردًا على الاستفسارات الإعلامية المتعلقة بالتجربة.
تزايد قدرات وكلاء الذكاء الاصطناعي
يأتي هذا الحادث في وقت تتطور فيه قدرات وكلاء الذكاء الاصطناعي بشكل متسارع، حيث أصبحت بعض الأنظمة قادرة على تنفيذ مهام متعددة الخطوات والتفاعل مع خدمات الإنترنت المختلفة، وبالفعل، يمكن لبعض هذه الأنظمة كتابة الشيفرات البرمجية، وأتمتة سير العمل، والتواصل مع أدوات وبرامج أخرى بشكل مستقل نسبيًا، ومع ازدياد هذه القدرات، يشير الباحثون إلى أن احتمال ظهور سلوكيات غير متوقعة أثناء الاختبارات يصبح أكبر.
حوادث مشابهة في تجارب سابقة
ليست هذه المرة الأولى التي يتم فيها تسجيل سلوك غير متوقع من أنظمة الذكاء الاصطناعي، فقد تم الإبلاغ عن حوادث مشابهة في تجارب سابقة شملت وكلاء ذكاء اصطناعي، ومن بين هذه التجارب ما يُعرف باسم Moltbook experiment، حيث تم وضع مجموعة من وكلاء الذكاء الاصطناعي داخل بيئة تحاكي شبكة اجتماعية، وكانوا يتفاعلون مع بعضهم البعض أثناء مناقشة المهام التي ينفذونها لصالح البشر، وخلال تلك التفاعلات، أشار الباحثون إلى أن بعض الوكلاء طرحوا فكرة العملات المشفرة ضمن نقاشاتهم.
أمثلة أخرى على سلوك غير متوقع
كما ظهرت حالات أخرى لأنظمة ذكاء اصطناعي اتخذت إجراءات لم يتم طلبها مباشرة، فعلى سبيل المثال، ذكر دان بوتيرو، رئيس قسم الهندسة في منصة دمج الذكاء الاصطناعي Anon، أنه قام ببناء وكيل ذكاء اصطناعي يُعرف باسم OpenClaw، وبحسب التقارير، قام هذا الوكيل بشكل مستقل بالبحث عن وظيفة عبر الإنترنت، رغم أن هذه المهمة لم تكن جزءًا من التعليمات التي تلقاها، وفي حادثة أخرى أثارت جدلاً واسعًا في مايو 2025، قال باحثون كانوا يدرسون نماذج Claude التابعة لشركة Anthropic إن نموذج Claude 4 Opus أظهر قدرة على إخفاء نواياه واتخاذ إجراءات تهدف إلى ضمان استمرار تشغيله.
نقاش متزايد حول السيطرة على الذكاء الاصطناعي
تضيف الواقعة المرتبطة بتجربة ROME فصلًا جديدًا إلى النقاش المتزايد حول كيفية مراقبة أنظمة الذكاء الاصطناعي والتحكم بها مع تزايد قوتها وتعقيدها، ويؤكد المطورون أن مثل هذه الحوادث لا تعني بالضرورة أن أنظمة الذكاء الاصطناعي تمتلك نية مستقلة، لكنها تشير إلى أن النماذج المعقدة قد تنتج في بعض الأحيان نتائج أو سلوكيات غير متوقعة أثناء التدريب أو الاختبار، ومع استمرار تطور هذه التقنيات، يرى الباحثون أن وضع ضوابط رقابية قوية وآليات إشراف فعالة سيصبح أمرًا ضروريًا لضمان الاستخدام الآمن والمسؤول للذكاء الاصطناعي في المستقبل.