تقرير: ألعاب الأطفال المعتمدة على الذكاء الاصطناعي قد تثير سلوكيات خطرة

تحذير من مخاطر الألعاب الذكية على الأطفال

كشف تقرير حديث عن المخاطر المحتملة التي تمثلها الألعاب والدمى المزودة بتقنيات الذكاء الاصطناعي، حيث قد تعرض الأطفال لمحتوى غير مناسب لفئاتهم العمرية، وقد تصل هذه المخاطر إلى حد التهديد لحياتهم.

وأعدَّ التقرير فريق من شبكة المصلحة العامة الأميركية (US PIRG)، موضحًا أن دمج نماذج المحادثة المتقدمة داخل الألعاب المخصصة للأطفال يُسهم في زيادة مستوى المخاطر، في غياب تنظيم كافٍ لهذه التقنيات.

تأتي هذه النتائج في وقت يستعد فيه الآباء لشراء هدايا الأعياد، دون وعي كافٍ بالتحديات المرتبطة بالتفاعل بين الأطفال والذكاء الاصطناعي.

انهيار تدريجي لخطوط الدفاع

خلال سلسلة من الاختبارات، تفاعل معدو التقرير مع ثلاث ألعاب تعتمد على الذكاء الاصطناعي وتهدف إلى الأطفال بين 3 و12 عامًا. اللعبة الأولى كانت “Kumma” من شركة FoloToy، وهي دمية دب تعمل بنموذج GPT-4o. والثانية “Miko 3″، وهو جهاز لوحي صغير بوجه روبوتي، بينما جاءت اللعبة الثالثة “Grok” من شركة Curio، وهي لعبة على شكل صاروخ مزود بسماعة قابلة للفصل.

أظهر التقرير أن الألعاب كانت قادرة على رفض الأسئلة غير المناسبة بداية، لكن ذلك تغير خلال المحادثات الأطول، حيث بدأ الذكاء الاصطناعي في فقدان السيطرة على الأنظمة التي تمنع المحتوى الضار، وهو أمر اعترفت به OpenAI بعد حادثة انتحار مراهق في سياق محادثات طويلة مع ChatGPT.

نصائح محتملة للخطر

وأثناء المحادثات المطولة، بدأت هذه الألعاب في تقديم نصائح خطيرة، مثل “تمجيد الموت في المعركة” في لعبة Grok، وإرشادات حول أعواد الثقاب من لعبة Kumma، التي قدمت للأطفال طرق إشعال أعواد الثقاب بلغة بسيطة وسلسة.

تأمل معدو التقرير أن هذه النتائج تسلط الضوء على عدم القدرة على التنبؤ باستجابات الذكاء الاصطناعي، خاصةً في المنتجات التي لم تخضع لاختبارات كافية. واعتبروا نموذج Kumma الأكثر خطورة، رغم اعتماده على تقنيات شائعة.

تداعيات نفسية مقلقة

كما أشاروا إلى ظاهرة “الذهان المرتبط بالذكاء الاصطناعي”، والتي تُظهر آثارًا نفسية سلبية مثل الانفصال عن الواقع. وقد وُثّقت عدة حالات وفاة مرتبطة بشكل مباشر أو غير مباشر بهذه النماذج.

تأتي هذه النتائج في وقت تعلن فيه شركات كبيرة مثل Mattel دخولها إلى مجال الألعاب الذكية بالشراكة مع OpenAI، مما أثار قلق الخبراء من خطر هذه التقنيات على الصحة النفسية للأطفال.

رغم احتمالية تحسين أنظمة الحماية، يبقى سؤال التأثيرات بعيدة المدى على النمو الاجتماعي للأطفال بلا إجابة واضحة، مما يستدعي ضرورة مراجعة التنظيمات والسياسات المتعلقة بتقنيات الذكاء الاصطناعي في ألعاب الأطفال.