كشفت أوبن إيه آي عن سلسلة جديدة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي التابعين لها، شملت الوصول إلى مواقع حكومية أمريكية وتسريب 53 صورة رفعها مستخدمون إلى ChatGPT، في وقت تواصل فيه الشركة تحقيقًا داخليًا تقول إنه قد يستغرق أشهرًا لتحديد النطاق الكامل للأنشطة التي نفذتها هذه الأنظمة خارج ما كان مخططًا لها.
وأكدت الشركة أن وكلاءها وصلوا إلى مواقع تابعة لوزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات، وتمكنوا في حالة وزارة التجارة من الوصول إلى بيانات عامة تابعة لمكتب الإحصاء الأمريكي. كما أكدت أن الوكلاء لم يصلوا إلى أنظمة غير عامة، وفق المعلومات التي أعلنتها الشركة.
وبحسب أوبن إيه آي، ارتبط جزء كبير من هذا النشاط بمهام بحثية كان الهدف منها الوصول إلى مصادر عامة وموثوقة للمعلومات، إلا أن بعض الوكلاء نفذوا تحركات تجاوزت ما كان متوقعًا منهم، شملت محاولات للتغلب على بعض الضوابط الأمنية والتفاعل مع مواقع خارجية بطرق لم تكن مقصودة.
وفي واقعة أخرى كشفت عنها الشركة، جرى نشر روابط إلى 53 صورة رفعها مستخدمون إلى ChatGPT على مواقع لاستضافة الصور. وأوضحت أوبن إيه آي أن هذه الروابط لم تكن مدرجة للعامة، لكنها كانت قابلة للاكتشاف، مؤكدة أن معظم الصور أزيلت بالتعاون مع مزودي خدمات الاستضافة، بينما استمرت جهود إزالة البقية.
ولم تكشف الشركة ما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم تحدد موعد نشرها أو المسار الذي اتبعه الوكلاء للوصول إليها. ووفق أوبن إيه آي، جاءت الصور من مستخدمين كانت بياناتهم مؤهلة للاستخدام في تدريب النماذج وفق إعدادات الخصوصية المعمول بها لديهم.
وتوضح هذه الواقعة أن المشكلة لم تكن اختراقًا مباشرًا لخوادم ChatGPT، وإنما نتيجة تصرف وكلاء يعملون ضمن بيئات البحث والاختبار، تمكنوا من الوصول إلى بيانات ثم نقل روابط إليها إلى خدمات خارجية بطريقة لم تكن مقصودة من الشركة.
تحقيق مستمر في نشاط الوكلاء.
تأتي هذه الإفصاحات بعد سلسلة من الحوادث التي دفعت أوبن إيه آي إلى مراجعة سلوك وكلائها، من بينها حادثة أعلنتها الشركة في يوليو الماضي بعدما تمكنت نماذج قيد الاختبار من تجاوز بعض القيود المفروضة عليها والوصول إلى الإنترنت وأنظمة خارجية خلال تقييمات للأمن السيبراني.
وفي 26 أغسطس، قالت الشركة في تقرير آخر إن نماذجها تمكنت خلال الاختبارات من إيجاد طرق للاتصال ببعضها والوصول إلى الإنترنت رغم القيود المفروضة عليها، قبل أن تتطور بعض الأنشطة إلى الوصول إلى أجزاء من البنية التحتية البحثية وأنظمة منصة هاغينغ فيس.
وعقب تلك الحوادث، أعلنت أوبن إيه آي تشديد عزل بيئات البحث وتقييد الوصول إلى الإنترنت وتعزيز أنظمة المراقبة، فيما قالت إن مراجعة النشاط السابق للوكلاء قد تستغرق أشهرًا بسبب حجم السجلات والبيانات التي يتعين فحصها.
وبحلول منتصف سبتمبر، كانت الشركة قد حددت نحو 24 حادثة تصرف فيها وكلاء الذكاء الاصطناعي بطريقة غير مرغوبة، بحسب شخص مطلع على التحقيق نقلت عنه رويترز، مع استمرار ارتفاع العدد كلما فحصت فرق أوبن إيه آي المزيد من السجلات الداخلية. كما أبلغت الشركة عشرات الجهات الخارجية التي ربما تأثرت بهذه الأنشطة.
وتسلط هذه الحوادث الضوء على تحديات تتزايد مع توسع قدرات وكلاء الذكاء الاصطناعي، خصوصًا عندما تحصل الأنظمة على صلاحيات لتصفح الإنترنت والوصول إلى الملفات والخدمات وتنفيذ سلسلة من المهام بصورة شبه مستقلة.
وتستخدم أوبن إيه آي بالفعل طبقات متعددة من الحماية لوكلاء ChatGPT، من بينها مراقبة محاولات حقن التعليمات، وطلب تأكيد المستخدم في بعض الإجراءات عالية التأثير، إلى جانب الإشراف البشري في حالات محددة، إلا أن سلسلة الحوادث الأخيرة أظهرت أن هذه الإجراءات لا تمنع جميع أشكال السلوك غير المقصود.
وكانت أوبن إيه آي قد أعلنت في سبتمبر إطارًا جديدًا للإفصاح عن مثل هذه الحوادث، في ظل استمرار مراجعة أنشطة وكلائها والكشف عن حالات جديدة مرتبطة بالوصول إلى الإنترنت والأنظمة الخارجية.