En febrero de 2019, el creador Matt Watson publicaba un vídeo de 20 minutos en el que explicaba cómo los depredadores sexuales aprovechaban recovecos en el algoritmo de YouTube para actuar. Un fallo en Matrix, consistente en la recomendación continua de vídeos donde aparecen menores de edad, que les permitía dejar comentarios en el que intercambian información (por ejemplo, en qué minutos concretos se podían ver ciertas partes de la anatomía), links de pornografía infantil o violar las políticas del site con expresiones de connotación sexual.
El vídeo-denuncia de Matt Watson inició una avalancha de reacciones. Desde las del propio site con sus defensas y la promesa de mejorar la seguridad infantil a la de empresas tan importantes como Nestlé, Disney, McDonald's o Epic Games, quienes pausaron temporalmente sus anuncios en la plataforma. Susan Wokcicki, CEO de YouTube, publicó un comunicado en el que anunciaba una serie de medidas para luchar contra la actividad pedófila. Deshabilitar los comentarios en "decenas de millones de vídeos que podrían estar sujetos a un comportamiento depredador" (es decir, que aparecieran menores de edad) o un nuevo clasificador de comentarios fueron algunas de ellas.
Cuatro meses después, este agujero de gusano en el algoritmo parece reproducirse. Gracias a un reportaje publicado en el New York Times, hemos podido saber que la actividad de carácter pedófilo persiste en la plataforma. El detonante del informe arranca en Brasil, país donde vive Christiane C, cuya hija de 10 años subió un vídeo de ella y una amiga jugando en una piscina. Un simple clip casero que en apenas unos días fue reproducido 400.00 veces. Y, sorpresa, en la pestaña de Siguientes, otras publicaciones que mostraban a menores de edad con trajes de baño o leotardos de gimnasia.
Además de la confirmación de que el agujero de gusano se resiste a su extinción, el New York Times publica que, en algunas ocasiones, la pestaña de Siguiente de YouTube te acaba llevando a vídeos donde aparecen niñas tras la reproducción de publicaciones de índole erótico. Estos descubrimientos llevaron al medio a denunciarlo ante la plataforma propiedad de Google, quien aseguró la eliminación de varios (pero no todos), cambios en el algoritmo y dejar de recomendar algunos de ellos.
La investigación de Tubefilter
A tenor del reportaje publicado en el New York Times y que incluía declaraciones de Jennifer O'Connor, directora de productos de YouTube para la confianza y la seguridad, Tubefilter quiso realizar su propia investigación. Poner a prueba "la madriguera del conejo", como describe el Times al fallo del algoritmo.
Aunque O´Connor explica que "cuando se trata de niños, solo queremos adoptar una postura mucho más conservadora por lo que recomendamos", Tubefilter ha demostrado que iniciando una búsqueda en YouTube con el término girl bathing suit (traje de baño de niña), el primer resultado que te arroja el site es una lista de reproducción llamada 12 year old girls in bathing suits (niñas de 12 años en trajes de baño). El segundo, otra playlist de nombre Teenager Girls 0000.
Imagen publicada en el reportaje de Tubefilter
Según el informe del medio norteamericano, al acceder a la primera playlist te encuentras con 25 vídeos, la mayoría de los cuales "parecen haber sido robados" y que muestran a chicas prepúberes en bikini y/o haciendo gimnasia. La investigación de Tubefilter explica que tras hacer click en uno de los vídeos, en la pestaña de Siguientes emergen clips cuyos comentarios no están deshabilitados, al contrario de lo que sucede con estas listas de reproducción desveladas en la noticia.
Tras un par de clicks más, Tubefilter acaba en un canal de nombre Teen Model. Casi 700 mil reproducciones entre todas las publicaciones y comentarios habilitados donde aparecen expresiones como "hermosas princesas" o el tiempo exacto donde los pedófilos deben acudir.
Comentarios en un vídeo del canal Teen Model - Imagen: Tubefilter
Las recomendaciones generan el 70% del total de vistas
En el reportaje publicado en el New York Times, la directora de productos de YouTube declaraba que la plataforma estaba estudiando limitar la pestaña de Siguientes y vídeos recomendados de carácter infantil, pero no eliminarlo por completo. El site defiende que las recomendaciones son su mayor controlador de tráfico y desactivarlas perjudicaría a los creadores, ya que generan el 70% de las visitas.
Tras las publicaciones del New York Times y Tubefilter, YouTube ha publicado otro comunicado en su blog oficial que vendría a ser una actualización del que ya realizaron en el pasado mes de febrero.
"La gran mayoría de los vídeos que presentan a menores en YouTube, incluyendo aquellos a los que se hace referencia en informes de noticias recientes, no violan nuestras políticas y se publican de forma inocente: un creador de familia que proporciona consejos educativos o un padre que comparte un momento de orgullo. Pero cuando se trata de los niños, tomamos un enfoque extra cauteloso con respecto a la aplicación de la ley y siempre estamos haciendo mejoras en nuestras protecciones".
El site informa de las medidas que llevan tomando "durante los últimos 2 años o más" respecto a su clasificador de aprendizaje automático que protege a los menores y las familias. Además de recordar que han limitado las recomendaciones de contenido límite, las restricciones en las retransmisiones de usuarios menores o la desactivación de comentarios "en decenas de millones" de clips, YouTube comunica que "en el primer trimestre de 2019, eliminamos más de 800.000 vídeos por violaciones a nuestras políticas de seguridad infantil".