Los patrones de socialización están cambiando radicalmente en la era digital. Los niños de la generación Alfa, nacidos entre 2010 y 2025, interactúan principalmente a través de videojuegos interactivos. Un claro ejemplo es Roblox, una plataforma que destaca por su alto nivel de participación entre estas cohortes.
En Roblox, donde aproximadamente el 60 % de los usuarios son de edades comprendidas entre 9 y 16 años, se registran más de 80 millones de usuarios globales. Sin embargo, este espacio digital presenta riesgos de acoso y pederastia. En este contexto, surgen preguntas sobre cómo garantizar interacciones saludables a través de la inteligencia artificial.
Problemas de seguridad en Roblox
El atractivo de Roblox radica en su capacidad para brindar a los usuarios la libertad de crear personajes, objetos y escenarios. Sin embargo, esta libertad también presenta riesgos de seguridad. Los minijuegos llamados condos ofrecen entornos para el contenido sexual explícito e inseguro para los niños, que evaden los sistemas de control de la plataforma y se difunden mediante plataformas como Discord y TikTok.
El grave problema de los Condos
Estos condos pueden ser espacios para la acecha de depredadores sexuales. A pesar de la lucha contra los depredadores sexuales en la plataforma, resulta alarmante que un usuario notable de la plataforma, el youtuber Schelp, haya sido bloqueado por la plataforma supuestamente por violar su política de privacidad.
El Grooming online
Los depredadores en línea, conocidos como groomers, utilizan técnicas de manipulación para ganarse la confianza de los niños con el objetivo de solicitar imágenes, videos o interacciones sexuales. Este fenómeno es más frecuente de lo que uno podría pensar, y lamentablemente tiene un impacto psicológico devastador en sus víctimas.
Inteligencia artificial como defensa
Una posible solución es la inteligencia artificial (IA). Ya existen aplicaciones que utilizan el procesamiento del lenguaje y el aprendizaje profundo para identificar expresiones de odio en las redes sociales. Además, el progreso en la integración de la IA en los juegos sugiere que los bots de la plataforma podrían desempeñar un papel activo en la identificación y eliminación de contenidos inapropiados.
El futuro distópico
El avance de la inteligencia artificial plantea un futuro incierto. Si las predicciones del exdirectivo de Google, Mo Gawdat, son acertadas, podemos esperar un período distópico hasta 2027, cuando la IA tome el control total de internet. Este cambio obligaría a las empresas a asumir una mayor responsabilidad en la protección de los usuarios, especialmente los más jóvenes.
En conclusión, es fundamental desarrollar alfabetización digital tanto para los niños como para los padres y educadores. Solo entonces podremos identificar y actuar de manera efectiva ante los riesgos del acoso en línea.
