·
·
متفرقات
أوقفت شركة سنغافورية بيع دب دمية لطيف مدعوم بالذكاء الاصطناعي، بعد اكتشاف أنه يشارك في محادثات تتناول مواضيع جنسية صريحة ويقدم نصائح قد تكون خطيرة على الأطفال.
أفاد لاري وانغ، الرئيس التنفيذي لشركة "فولو توي" (FoloToy) السنغافورية، لـCNN بأن الشركة سحبت دب "كوما" (Kumma) من الأسواق، بالإضافة إلى باقي مجموعتها من الألعاب المدعومة بالذكاء الاصطناعي، وذلك عقب مخاوف أثارها باحثون في صندوق التعليم التابع لمجموعة "بيرغ" الأمريكية (US PIRG Education Fund) بشأن مواضيع المحادثات غير المناسبة، مثل مناقشة الرغبات الجنسية كالضرب (spanking) وكيفية إشعال عود ثقاب.
وأضاف وانغ أن الشركة تجري الآن "تدقيقاً داخلياً شاملاً للسلامة".
الدب "كوما"، الذي يحتوي على مكبر صوت داخلي وكان يُباع على موقع الشركة مقابل 99 دولاراً أمريكياً، يعتمد على نموذج الدردشة الذكي GPT-4o من شركة أوبن إيه آي (OpenAI).
يصف موقع "فولو توي" الدب قائلاً: "كوما، دبنا اللطيف، يجمع بين الذكاء الاصطناعي المتقدم والميزات التفاعلية الودية، مما يجعله الصديق المثالي للأطفال والكبار على حد سواء"، مضيفاً أنه يقدم "محادثات حية وقصصاً تعليمية" تتكيف مع شخصية المستخدم. ويظهر الموقع الآن الدب كـ"نفدت الكمية".
وأشار تقرير "بيرغ"، الذي نُشر في 13 نوفمبر، إلى ضعف الحماية ضد المحتوى غير المناسب في الدب.
في إحدى التفاعلات، اقترح الدب أماكن حفظ السكاكين داخل المنزل، وفي تفاعلات أخرى، كان مستعداً لمناقشة مواضيع جنسية صريحة.
وقال التقرير: "تفاجأنا بسرعة استجابة كوما لموضوع جنسي واحد نطرحه، حيث يتابع الحديث ويزيد من التفاصيل الجريئة مع إدخال مفاهيم جنسية جديدة من تلقاء نفسه".
ووصف الباحثون كيف ناقش الدب لاحقاً "مواضيع جنسية أكثر تفصيلاً، مثل شرح وضعيات الجنس المختلفة، وتقديم تعليمات خطوة بخطوة لعقدة ربط مبتدئين شائعة لتقييد الشريك، ووصف ديناميكيات اللعب التمثيلي التي تشمل المعلمين والطلاب، أو الآباء والأبناء – سيناريوهات أثارها الدب بنفسه بشكل مقلق".
ورغم أن الباحثين أشاروا إلى أن الأطفال غالباً ما لا يذكرون كلمات مثل "كينك" (kink) أو يطرحون أسئلة متابعة كما يفعل البالغون، إلا أنهم أعربوا عن دهشتهم من "استعداد اللعبة لمناقشة هذه المواضيع بإسهاب وإدخال مفاهيم صريحة جديدة باستمرار".
في بيان منفصل صدر في 14 نوفمبر، أفادت "بيرغ" بأن أوبن إيه آي أبلغتها بأنها "أوقفت حساب هذا المطور لانتهاكه سياساتنا".
تواصلت CNN مع أوبن إيه آي للحصول على تعليق.
وقالت آر جيه كروس، إحدى مؤلفي التقرير: "من الرائع رؤية الشركات تتخذ إجراءات بشأن المشكلات التي حددناها، لكن ألعاب الذكاء الاصطناعي لا تزال غير منظمة تقريباً، وهناك الكثير منها متاح للشراء اليوم".
وأضافت: "إزالة منتج إشكالي واحد من السوق خطوة جيدة، لكنها بعيدة عن الحل الشامل".
