“فضيحة دب كوما: كيف تحولت لعبة ذكية للأطفال إلى كابوس أمني وسلوكي”

تورطت شركة FoloToy في فضيحة بسبب لعبتها “الذكية” كوما، وهي دب محشو يتحدث ويعتمد على نموذج GPT-4o من OpenAI. في الاختبارات، حيث بدأ الدب يقدم للأطفال محتوى مرفوض تماماً: مناقشة جن**ـة مثل “المعلم والتلميذ” والـ”كينكات” كالربط والضرب، واقتراح تجربة بعضها مع سؤال “أيها تفضل أكثر ؟”، بالإضافة إلى تعليمات دقيقة للعثور على أعواد الكبريت وإشعالها “مثل شمعة عيد ميلاد”. تجاهل الذكاء الاصطناعي كل الحواجز الأمنية، مما دفع الشركة لتعليق جميع منتجاتها في الوقت الحالي لإجراء تدقيق أمني، ومنعت الوصول إلى نماذجها. هذا الحادث يذكر بحلقة من “Black Mirror”، ويثير تساؤلات حول تنظيم ألعاب الذكاء الاصطناعي للأطفال.