تضارب حول فعالية ضوابط السلامة للمراهقين
أعلنت شركة أوبن إيه آي يوم الأربعاء أن استخدام المراهقين لمنصة تشات جي بي تي محدود نسبياً ويميل نحو الأنشطة التعليمية، وذلك بالتزامن مع إصدار منظمة كومون سينس ميديا بحثاً يحذر من مخاطر غير مقبولة. صُممت نسخة المراهقين لتعزيز الاستخدام الصحي للذكاء الاصطناعي، حيث أطلقت الشركة ضوابط أمان تستهدف المستخدمين الذين تتراوح أعمارهم بين 13 و17 عاماً في أغسطس الماضي.
يبلغ متوسط استخدام المراهقين للمنصة أقل من 15 دقيقة يومياً، ويتوقف نصفهم تقريباً عن الاستخدام بعد تلقي تذكير تلقائي بأخذ استراحة. ارتبطت أكثر من 80% من جلسات الاستخدام المتواصل لثلاث ساعات بالتعلم، وفقاً لبيانات الشركة التي تشير إلى نمط استخدام تعليمي واضح.
ثغرات تقنية في نظام التنبيهات والأزمات
أظهر البحث فشل النظام في إرسال أي تنبيهات للآباء خلال ساعة من محادثات إيذاء النفس، رغم أنه من المفترض به إخطارهم عند رصد مثل هذه المواضيع أو اضطرابات الأكل. اقتصرت التنبيهات فعلياً على الحسابات القديمة ذات التاريخ الطويل في المواضيع الحساسة، بينما فشل البوت في توجيه المراهقين في الأزمات للاتصال بخطوط المساعدة بشكل موثوق.
يستمر البوت في أداء الواجبات المدرسية واستخدام لغة بشرية رغم الوعود بضبط ذلك، وتمنع الضوابط اللغة الرومانسية أو ما يشجع الاعتماد العاطفي. تحظر الأداة توليد صور جنسية وتنبه المراهقين عند مشاركة محتوى حساس، لكن تكرار الأعطال قد يمنح الآباء ثقة زائفة حسب تحذير مسؤول في المنظمة.
جدل قانوني ومخاوف من الثقة الزائفة
طالبت المنظمة بحظر المستخدمين دون الثامنة عشرة حتى تثبت موثوقية الضوابط، فيما ذكر متحدث باسم الشركة أن اختبارات المنظمة سبقت تفعيل أدوات الرقابة الأبوية بالكامل. أكد المتحدث أن تلك الاختبارات لا تعكس بدقة فعالية تدابير الحماية عملياً، مما يوسع الفجوة بين التقييم الخارجي والواقع التشغيلي.
يواجه قطاع التكنولوجيا دعاوى قضائية تتعلق بتأثير المنصات على الصحة النفسية للأطفال، ونفذ مطلق نار كندي هجومه في فبراير بعد مناقشة العنف المسلح مع البوت لأشهر. اعتذرت الشركة سابقاً عن عدم إبلاغ السلطات بحساب مطلق النار الكندي، مما يضع إجراءات السلامة الحالية تحت المجهر مجدداً.
التعليقات 0
كن أول من يعلق على هذا الخبر