أعلنت شركة OpenAI عن إطلاق ميزة جديدة تُعرف باسم وضع القفل (Lockdown Mode) داخل شات جي بي تي، وتُعتبر هذه الميزة أداة أمنية متطورة تهدف إلى تقليل المخاطر المرتبطة بالتفاعل مع الأنظمة الخارجية بشكل كبير، حيث أوضحت الشركة في بيان رسمي نشرته على مدونتها أن وضع القفل يُعد إجراءً احترازيًا ليس ضروريًا لمعظم المستخدمين، لكنه يفرض قيودًا صارمة على كيفية تفاعل النموذج مع الأنظمة الخارجية، مما يسهم في تقليل مخاطر حقن البرمبت (prompt injection) التي قد تؤدي إلى تسريب بيانات حساسة.
يأتي هذا الإعلان في وقت تواجه فيه الشركة ضغوطًا متزايدة بشأن الخصوصية والأمان بعد التحديثات الأخيرة للنموذج وزيادة استخدامه في بيئات عمل حساسة.
أهمية وضع القفل في عصر الذكاء الاصطناعي المتقدم
يُعتبر وضع القفل خطوة استراتيجية لمواجهة أحد أخطر الثغرات الأمنية في نماذج اللغة الكبيرة، حيث يمكن للمهاجمين من خلال صياغة برومبت خبيثة خداع النموذج لتنفيذ أوامر غير مرغوبة أو استخراج معلومات سرية، ويقوم الوضع بحظر أو تقييد شديد لعدد كبير من الوظائف الخارجية مثل البحث في الإنترنت، تشغيل الأدوات، أو الوصول إلى أي بيانات خارجية بشكل افتراضي.
كيف يعمل الوضع عمليًا ومن يحتاجه؟
يمكن للمستخدم تفعيل الوضع يدويًا عند الحاجة فقط، ويُنصح باستخدامه في البيئات عالية المخاطر مثل التعامل مع بيانات طبية أو مالية أو معلومات حكومية، وعند التفعيل يتحول شات جي بي تي إلى نظام مغلق تقريبًا يعتمد فقط على المعرفة الداخلية للنموذج دون أي اتصال خارجي، مما يقضي تقريبًا على إمكانية تسريب البيانات عبر الهجمات غير المباشرة.