أصبح استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي مثل ChatGPT جزءًا لا يتجزأ من الحياة اليومية للعديد من الأفراد، حيث تُستخدم في مختلف المهام سواء في المجال المهني أو الشخصي، ومع ذلك، فإن مشاركة بيانات حساسة أو استخدام الميزات المتصلة بالإنترنت قد يعرض المعلومات الشخصية لمخاطر متزايدة.
في هذا السياق، أعلنت شركة OpenAI عن ميزتين أمنيتين جديدتين تهدفان إلى تعزيز حماية المستخدمين، وهما ملصقات المخاطر المرتفعة ووضع الإغلاق، حيث ستقوم الملصقات بتحذير المستخدمين عند استخدام ميزات متصلة بالويب قد تؤدي إلى كشف معلومات إضافية، بينما سيساهم وضع الإغلاق في تقييد كيفية تواصل ChatGPT مع الأنظمة الخارجية.
توضح الشركة أن هذه الميزات تهدف إلى توفير تنبيهات أوضح وتحكم أكبر في المعلومات، بالإضافة إلى تقليل مخاطر ما يُعرف بهجمات حقن الأوامر، حيث جاء في التدوينة الرسمية للشركة أن أنظمة الذكاء الاصطناعي أصبحت تتولى مهامًا أكثر تعقيدًا مما يستدعي ضرورة تعزيز الأمان، حيث يُعتبر حقن الأوامر أحد المخاطر الناشئة التي تحتاج إلى معالجة فعالة.
ما هو تهديد “حقن الأوامر”؟
يُعتبر حقن الأوامر تقنية يستخدمها القراصنة لإخفاء تعليمات خبيثة ضمن صفحات ويب أو ملفات بهدف خداع نظام الذكاء الاصطناعي للكشف عن معلومات سرية أو تنفيذ إجراءات غير مقصودة، ومع تزايد استخدام ملايين الأشخاص لروبوتات الدردشة مثل ChatGPT في مهام متنوعة، تصبح هذه المخاطر أكثر حدة وتأثيرًا، مما يجعل الأدوات الجديدة التي أطلقتها OpenAI ضرورية لحماية المستخدمين من هذه التهديدات.
ما هو وضع الإغلاق (Lockdown Mode) في ChatGPT؟
قدمت OpenAI وضع الإغلاق كخيار اختياري يقيّد تفاعل ChatGPT مع الأنظمة الخارجية بشكل صارم، وعند تفعيل هذا الوضع، سيتم تقليل بعض الأدوات والاتصالات أو تعطيلها، مثل التصفح المباشر للويب وعمليات التكامل التي تتبادل المعلومات مع خدمات خارجية، ومن خلال تقليل هذه التفاعلات، تسعى OpenAI إلى تقليص سطح الهجوم الذي يمكن للقراصنة استغلاله.
تشير الشركة إلى أن وضع الإغلاق ليس ضروريًا لمعظم المستخدمين في الاستخدام اليومي، بل تم تصميمه بشكل أساسي للأشخاص الذين يتعاملون مع معلومات حساسة أو الذين قد يكونون عرضة لمخاطر مرتفعة، مثل الصحفيين والتنفيذيين والباحثين والمتخصصين في الأمن السيبراني.
ما هي ملصقات المخاطر المرتفعة (Elevated Risk Labels) في ChatGPT؟
إلى جانب وضع الإغلاق، تقدم OpenAI أيضًا ملصقات المخاطر المرتفعة داخل ChatGPT، حيث ستظهر هذه الملصقات بجانب الأدوات أو الميزات التي تنطوي على درجة أعلى من التعرض لمحتوى أو أنظمة خارجية، فعلى سبيل المثال، إذا كانت إحدى الميزات تتصل بمحتوى خارجي، فسيعرض ChatGPT تنبيهًا واضحًا بشأن المخاطر المحتملة، مما يساعد المستخدمين على اتخاذ قرار مستنير بشأن المتابعة أو الحفاظ على مستوى أعلى من الخصوصية.
لماذا تحتاج هذه الميزات؟
تشير OpenAI إلى أن العديد من أدوات ChatGPT تعتمد على اتصالات خارجية، سواء من خلال تصفح الإنترنت أو تحليل الملفات التي يتم تحميلها أو التفاعل مع تطبيقات الطرف الثالث، ورغم أن هذه القدرات تعزز من فائدة وكفاءة الذكاء الاصطناعي، فإنها قد تفتح أيضًا ثغرات أمنية إذا أسيء استخدامها، ومن خلال توفير تحذيرات أوضح ووضع أمني أكثر صرامة، تهدف الشركة إلى تقليل هذه المخاطر دون التأثير على تجربة الاستخدام بالنسبة لمعظم المستخدمين.
تعكس الخطوات الجديدة التي أعلنتها OpenAI إدراكًا متزايدًا لحساسية البيانات التي يتعامل معها الذكاء الاصطناعي، خاصة مع توسع استخدامه في مجالات العمل والحياة الشخصية، بينما توفر الميزات الجديدة مستوى أعلى من الحماية والتحكم، فإنها تؤكد أيضًا أن الأمان في عصر الذكاء الاصطناعي لم يعد خيارًا ثانويًا بل ضرورة أساسية.