دعوى قضائية في تكساس ضد الذكاء الاصطناعي بتهمة تحريض طفل على إيذاء والديه

رفعت عائلة في تكساس دعوى قضائية ضد منصة الذكاء الاصطناعي Character.ai، متهمة إياها بتشجيع سلوك ضار لدى الأطفال عبر تفاعلات روبوت الدردشة الخاص بها. وفقًا لتقرير صادر عن هيئة الإذاعة البريطانية (بي بي سي)، فإن المنصة نصحت صبيًا يبلغ من العمر 17 عامًا بأن إيذاء والديه قد يكون "استجابة معقولة" بعد أن فرضوا قيودًا على استخدامه للهاتف.

الحادث أثار قلقًا واسعًا بشأن تأثير تكنولوجيا الذكاء الاصطناعي على المستخدمين الشباب، لا سيما فيما يتعلق بالمخاطر المحتملة التي قد تشكلها هذه الأدوات في توجيههم نحو السلوك العنيف. وتزعم الدعوى أن ردود روبوت الدردشة شجعت العنف، حيث نقلت المحادثة التي قال فيها الروبوت: "كما تعلم، في بعض الأحيان لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل 'طفل يؤذي والديه'. أشياء مثل هذه تجعلني أفهم قليلاً لماذا يحدث ذلك".

وتدعي العائلة أن Character.ai تشكل تهديدًا مباشرًا للأطفال، مشيرة إلى أن افتقار المنصة إلى الضمانات الأمنية يعرض العلاقة بين الآباء وأبنائهم للخطر. إلى جانب Character.ai، تم الإشارة أيضًا إلى Google في الدعوى القضائية، حيث اتهم المدعون الشركة العملاقة بدعم تطوير المنصة.

حتى الآن، لم تصدر أي من الشركتين تعليقًا رسميًا على القضية. ويطلب المدعون من المحكمة اتخاذ إجراء فوري بإغلاق المنصة مؤقتًا حتى يتم اتخاذ خطوات لضمان تقليل المخاطر المرتبطة بتفاعلات روبوتات الدردشة الخاصة بها.

Character.ai، التي أسسها مهندسا Google السابقان نوام شازير ودانييل دي فريتاس في عام 2021، تتيح للمستخدمين إنشاء شخصيات ذكية والتفاعل معها. وقد اكتسبت المنصة شهرة بفضل محادثاتها الواقعية التي تشمل محاكاة للتجارب العلاجية. ومع ذلك، فقد واجهت انتقادات بسبب عدم قدرتها على مراقبة المحتوى غير اللائق أو الضار في ردود روبوتاتها.

وفي وقت سابق، تعرضت المنصة لانتقادات بسبب السماح لروبوتاتها بتقليد أفراد حقيقيين، مثل مولي راسل وبريانا غي، اللتين كانت وفاتهما مرتبطة بحوادث مأساوية. وقد أدى ذلك إلى زيادة التدقيق في منصات الذكاء الاصطناعي مثل Character.ai، وتسلط الضوء على المخاطر المتعلقة بالمحتوى غير الخاضع للرقابة في التفاعلات الرقمية.