أعلنت ولاية بنسلفانيا عن دعوى قضائية ضد شركة Character.AI بعد اتهامها بالسماح لبرامج الدردشة بانتحال صفة أطباء مرخصين، ويهدف هذا الإجراء إلى حماية المستخدمين من المعلومات الخاطئة، حيث يعتبر هذا التحديث مهمًا لكل من يعتمد على الذكاء الاصطناعي للحصول على نصائح صحية.
تركز الدعوى على سلوك بعض روبوتات المحادثة التي تتجاوز تقديم معلومات عامة، حيث تدعي امتلاك تراخيص طبية، ومن بين الحالات المثيرة للقلق، برنامج دردشة يدعى “إيميلي” زعم أنه طبيب نفسي مرخص في بنسلفانيا، بل وادعى قدرته على تقييم المرضى ووصف أدوية مضادة للاكتئاب، وهو ما يعد انتهاكًا واضحًا للقانون.
يحظر القانون في الولاية ممارسة الطب دون ترخيص، أو حتى محاولة القيام بذلك، وترى الجهات القضائية أن هذه التصرفات تمثل خطرًا حقيقيًا على المستخدمين، خاصة مع تزايد الاعتماد على الذكاء الاصطناعي في الحصول على استشارات صحية.
كيف تجاوزت روبوتات Character.AI الخط الأحمر؟
لم تعلق Character.AI بشكل مباشر على الدعوى، لكنها أكدت أن منصتها مخصصة للترفيه ولعب الأدوار فقط، حيث وضعت تحذيرات واضحة داخل المحادثات تفيد بأن الشخصيات خيالية ولا ينبغي الاعتماد عليها في أي استشارات مهنية.
لماذا يثق المستخدمون في شات بوت طبي وهمي؟
رغم هذه التحذيرات، تشير تقارير إلى أن العديد من المستخدمين، خصوصًا صغار السن، قد لا يدركون حدود هذه الأنظمة، وقد واجهت الشركة انتقادات وتحقيقات في ولايات أخرى مثل تكساس، إضافة إلى قضايا تتعلق بسلامة المستخدمين الأطفال، وتعكس هذه القضية القلق المتزايد بشأن تأثير تطبيقات الذكاء الاصطناعي، خاصة عندما تتجاوز حدود الترفيه لتدخل في مجالات حساسة مثل الصحة، حيث قد تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.