El algoritmo de recomendación llevó a mi hija de vídeos educativos a contenido problemático en 6 clics

Comenzó buscando tutoriales de ciencias para un proyecto escolar. En 40 minutos, el algoritmo la había llevado a contenido sobre dietas extremas y desafíos físicos peligrosos. No fue accidental: fue el sistema funcionando exactamente como está diseñado.

El experimento de seguimiento

Creamos una cuenta de prueba con su edad real declarada. Consumimos contenido similar al suyo durante una semana. El patrón era claro: cada vídeo recomendado era ligeramente más extremo que el anterior, maximizando tiempo de visualización sin considerar impacto psicológico.

Los puntos de inflexión identificados

Tras un vídeo sobre alimentación saludable, aparecieron recomendaciones de ayuno intermitente. Después de uno sobre ejercicio, rutinas de entrenamiento diseñadas para adultos. El sistema interpretaba interés académico como señal para contenido progresivamente más intenso.

Lo perturbador: la plataforma sabía su edad. Las protecciones infantiles estaban activadas. El contenido no violaba técnicamente las políticas, pero el efecto acumulativo era claramente dañino.

Soluciones parciales y frustraciones

Bloqueamos canales específicos, pero aparecían otros similares. Activamos restricciones más estrictas, limitando tanto que la plataforma perdió utilidad educativa.

La conclusión incómoda: estos algoritmos están optimizados para engagement, no para bienestar infantil. Las herramientas de control parental son insuficientes contra sistemas diseñados por miles de ingenieros para ser irresistibles.

Supervisión activa es nuestra única defensa real, pero requiere tiempo que muchas familias simplemente no tienen.