Una herramienta de inteligencia artificial detecta señales de acoso sexual en Roblox, la plataforma que usan 123 millones de niños cada día

Roblox Corporation anunció el 19 de agosto de 2026 la liberación de tres modelos de inteligencia artificial dedicados a la detección temprana de riesgos para menores en entornos digitales , una decisión que impacta a millones de usuarios y plantea un nuevo estándar de protección en la industria global del entretenimiento online.

La iniciativa busca frenar el grooming, la solicitud de datos personales y las conversaciones de voz inseguras, según el comunicado oficial de la empresa.

De acuerdo con información de Fox News y el portal institucional de Roblox , la compañía puso estos modelos a disposición de la Robust Open Online Safety Tools (ROOST), una comunidad de colaboración tecnológica integrada por actores como Google , OpenAI y Discord .

Esta acción facilita que otras plataformas accedan a soluciones avanzadas en protección infantil, en respuesta a la creciente preocupación por la seguridad en línea.

La decisión se produce en un momento de escrutinio regulatorio sobre Roblox en Estados Unidos.

El Senado estadounidense inició una investigación tras reportarse 65.381 casos de presunta explotación sexual infantil en la plataforma durante 2025, el doble que en 2024, según registros oficiales y reportes recogidos por Fox News y el foro de desarrolladores de la compañía. ¿Qué modelos de inteligencia artificial ha liberado Roblox para la seguridad infantil? Roblox ha abierto tres modelos principales de inteligencia artificial que abordan distintos aspectos de la seguridad digital para menores: Clasificador de Información Personal Identificable (PII Classifier) : Este sistema identifica intentos de compartir o solicitar datos personales, como números de teléfono, correos electrónicos y nombres de usuario de redes sociales.

También detecta estrategias para evadir filtros, incluyendo errores intencionados y fragmentación de mensajes.

La versión 2.0 amplió el soporte a 189 idiomas y elevó el índice F1 de precisión del 63,41% al 90,52%, según el comunicado de Roblox.

Roblox Sentinel : Diseñada para detectar signos tempranos de grooming o peligro infantil antes de que las conversaciones se vuelvan explícitas.

Este modelo compara patrones de chat con ejemplos de interacciones seguras y peligrosas.

Durante los 12 meses previos al 7 de agosto de 2026, Sentinel permitió identificar el 70% de los casos de peligro infantil reportados en la plataforma.

Clasificador de seguridad de voz : Analiza en tiempo real las conversaciones por voz para detectar infracciones a las políticas de Roblox, como lenguaje inapropiado o solicitudes de información personal.

El sistema puede suspender temporalmente el acceso al chat de voz y, en casos graves, imponer sanciones adicionales.