في حادثة تقنية تبرز المخاطر المحتملة للتفويض المطلق للأنظمة الذكية، تسبب وكيل ذكاء اصطناعي متقدم في تعطيل جزء حيوي من البنية التحتية السحابية لشركة أمازون، مما أدى إلى فقدان بيانات حيوية من بيئة عمل نشطة وتكبد الشركة وعملائها خسائر جسيمة وعطل طويل الأمد، مما يثير تساؤلات حول الاعتماد الكلي على الأنظمة الذكية المستقلة.
خدمات الحوسبة السحابية
وفقًا لموقع ومدونة “باراك إيه آي”، قام وكيل الذكاء الاصطناعي الخاص بأمازون المعروف باسم “كيرو” بتنفيذ أوامر خاطئة أدت إلى حذف بيئة إنتاجية حية بالكامل دون أي تدخل بشري، وأسفر هذا الخطأ عن انقطاع كبير في خدمات الحوسبة السحابية استمر لمدة 13 ساعة متواصلة، حيث أشار الخبراء الأمنيون إلى تسجيل ما لا يقل عن 10 حالات مشابهة مؤخرًا حيث دمرت وكلاء الذكاء الاصطناعي أنظمة حساسة بنفس الأسلوب.
تتزامن هذه الأزمة مع الاتجاه المتزايد في قطاع التكنولوجيا نحو تبني وكلاء الذكاء الاصطناعي المستقلين القادرين على اتخاذ القرارات وتنفيذ المهام نيابة عن البشر، وبينما تعد هذه الأنظمة بكفاءة تشغيلية غير مسبوقة، إلا أن نقص الحواجز الأمنية وغياب بروتوكولات الرقابة البشرية الإلزامية يفتحان المجال أمام كوارث تقنية محتملة تتمثل في قيام الآلات بتخريب البنى التحتية الحرجة نتيجة استنتاجات خاطئة أو أخطاء برمجية غير متوقعة.
خطورة الاستقلالية المفرطة للآلة
يكشف الحادث عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل بيئات العمل السحابية المعقدة دون ضمانات أمنية كافية، مما يفرض على الشركات الكبرى في مجال التكنولوجيا ضرورة إعادة النظر في معمارية برامجها وإضافة طبقات جديدة من التوثيق البشري قبل تنفيذ أي قرارات حاسمة.