فتحت المفوضية الأوروبية تحقيقًا جديدًا اليوم الاثنين بعد انتشار واسع لمقاطع الفيديو الجنسية المزيفة التي تم إنشاؤها بواسطة روبوت الدردشة الذكي Grok على منصة إكس التي يرأسها إيلون ماسك حيث ستقوم المفوضية بتقييم ما إذا كانت شركة X قد استوفت متطلبات الاتحاد الأوروبي لحماية المستخدمين عند دمج Grok في منصتها وخوارزميتها الأساسية.
تغريم منصة إكس 120 مليون يورو
تخضع شركة X حاليًا للتحقيق على عدة جبهات بموجب قانون الخدمات الرقمية للاتحاد الأوروبي الذي ينظم منصات التواصل الاجتماعي وقد تم تغريمها في ديسمبر بمبلغ 120 مليون يورو بسبب قصور في الشفافية ويمكن أن تصل الغرامات إلى 6% من إيرادات X العالمية السنوية حيث أوضحت اللجنة أن التحقيق الجديد سيركز على ما إذا كانت الشركة قد قيمت بشكل صحيح مخاطر دمج Grok وخاصة تلك المتعلقة بالصور الجنسية الصريحة التي تم التلاعب بها بما في ذلك بعض الصور التي قد تصل إلى حد مواد الاعتداء الجنسي على الأطفال ولكن التحقيق أوسع بكثير من هذه الصور كما ذكر مسؤول كبير في المفوضية خلال إحاطة إعلامية.
توصل تقدير أجرته منظمات المجتمع المدني إلى أن برنامج الدردشة الآلي قد أنشأ ما يصل إلى 3 ملايين صورة جنسية بدون موافقة و20 ألف صورة اعتداء جنسي على الأطفال في الأيام الـ 11 التي سبقت إجراء تغييرات لوقف انتشار هذه الصور.
بالإضافة إلى التحقيق الجديد ستقوم المفوضية بتوسيع تحقيق أجرته عام 2023 للنظر في تأثير قرار شركة X الذي أعلن عنه الأسبوع الماضي بتحويل خوارزمية منصة التواصل الاجتماعي الخاصة بها إلى نظام قائم على Grok حيث قالت المفوضية يوم الاثنين إنها قد تتخذ خطوات مؤقتة مثل إصدار أمر لشركة X بتغيير خوارزمياتها أو إيقاف تشغيل برنامج الدردشة الآلي في حالة عدم وجود تعديلات ذات مغزى على خدمة X وهو أمر تجنب الاتحاد الأوروبي القيام به حتى الآن لمنصة ماسك.
المشرعون يطالبون بالصرامة مع تطبيقات تعدل الصور العارية
انتشرت خاصية توليد الصور في تطبيق Grok بشكل واسع قبيل نهاية عام 2025 حيث طلب المستخدمون من برنامج الدردشة الآلي تعديل صور أشخاص حقيقيين وقد أثار هذا الأمر استنكارًا عالميًا ودعا مشرعون أوروبيون إلى حظر تطبيقات الذكاء الاصطناعي التي تعدل الصور العارية فضلًا عن اتخاذ إجراءات صارمة ضد Grok حيث قامت المنصة بتقييد قدرات برنامج الدردشة الآلي على إنشاء الصور في يناير وذلك في البداية بحصرها على المشتركين المدفوعين في Grok وأوضحت المفوضية حينها أنها بصدد تقييم ما إذا كانت التغييرات التي أدخلت على Grok كافية فيما وجد مسؤولو الاتحاد الأوروبي أن التغييرات الأولية غير كافية وأبدوا مخاوفهم للمنصة التي اتخذت بدورها خطوات إضافية.