أعلنت "ميتا" عن تحديثات جديدة تهدف إلى حماية المراهقين أثناء استخدامهم لتقنيات الذكاء الاصطناعي على منصاتها، من خلال رصد المحادثات التي قد تشير إلى إيذاء النفس أو خطر الانتحار ، وتتمثل الميزة الأساسية في قدرة النظام على إرسال إشعارات فورية إلى أولياء الأمور إذا أجرى مراهق، يستخدم حسابا مرتبطا بأدوات الرقابة الأبوية على إنستجرام، محادثة مع روبوت الدردشة الذكي للشركة تتضمن تلميحات عن رغبته في إيذاء نفسه.
وقد طورت "ميتا" هذا النظام بالتعاون مع خبراء وأولياء أمور، لرصد الإشارات اللفظية الدقيقة التي قد تدل على وجود خطر، حتى لو كانت غير مباشرة.
وأوضحت الشركة أن جميع المحادثات التي يعلمها النظام ستخضع لمراجعة يدوية، لكنها سترسل التنبيه للوالدين في الحالات غير الواضحة تحسبا، مع إقرارها بأن هذه السياسة قد تؤدي إلى بعض التنبيهات الخاطئة، إلا أنها تعتبر ذلك نقطة بداية مناسبة مع وعد بمواصلة تحسين الدقة.
وإلى جانب ذلك، تعمل "ميتا" على تطوير أداة إضافية تسمح بالتواصل المباشر مع خدمات الطوارئ، عند اكتشاف محادثة تشير إلى أن المستخدم معرض لخطر وشيك بإنهاء حياته، وهي ميزة تمتلكها الشركة بالفعل لرصد المنشورات على "فيسبوك" و"إنستجرام".