YouTube para niños genera polémica por sus problemas de vulnerabilidad
miércoles, 22 de noviembre de 2017
JANINA MARCANO FERMÍN
Vida Ciencia Tecnología
El Mercurio
Videos sexuales y violentos que se detectaron hace unas semanas en YouTube Kids dejaron al descubierto que las empresas tecnológicas no pueden controlar totalmente el contenido que ofrecen.
Spider-Man orina sobre Blancanieves; Elsa, personaje principal de la película Frozen, baila en un tubo de pole dance, y Mickey Mouse llora acostado sobre su sangre después de ser atropellado por un auto. Escenas como las anteriores son las que aparecieron en cientos de videos que estuvieron disponibles en YouTube Kids, la aplicación de contenido infantil de YouTube, y que ahora tienen a la empresa envuelta en una polémica por visualización de imágenes sexuales y violentas. A través del hashtag #Elsagate, en alusión al personaje de Frozen, las denuncias por la aparición de estos videos que recreaban historias para adultos con personajes infantiles -que sumaban millones de reproducciones-, se empezaron a agrupar y hasta ayer seguían sumando comentarios en Twitter. Ya sea por error o debido a una situación intencionada de hackers , el incidente expuso lo delicado de confiar en los algoritmos que validan los contenidos en estas plataformas. El ingeniero electrónico y académico de la U. Andrés Bello (UNAB), Miguel Gutiérrez, explica que, muchas veces, los videos son filtrados según el texto que contengan, por lo que aquellos que estén etiquetados con nombres de personajes de Disney, por ejemplo, podrían subirse automáticamente, ya que el sistema los considera de tipo infantil. "No existen algoritmos perfectos. Seguramente una aplicación podría reconocer imágenes de contenido sexual explícito. El problema es que al ser dibujos animados, quizá no está dentro de los patrones de reconocimiento que ellos manejan como pornografía", explica Gutiérrez. La académica de la U. de Chile e investigadora del Núcleo Milenio de la Web Semántica, Bárbara Poblete, opina que siempre habrá formas de atacar los algoritmos. Por eso, dice, no tiene permitido a sus hijos acceder a YouTube Kids mientras estén solos. "El sistema trabaja a través de machine learning, por lo que el algoritmo aprende ciertas características, pero una vez que las personas descubren cómo funciona, agregan esas características a sus propios videos", explica. Aunque Google, empresa dueña de YouTube, eliminó todo el contenido denunciado, que vuelvan a aparecer, dice Poblete, es solo una cosa de tiempo. "Para esto no hay solución. La única forma de controlar por completo el contenido sería a través de miles de editores humanos que fiscalicen las imágenes, pero para una plataforma tan grande sería muy difícil". YouTube Kids está disponible en el país desde 2015. Aunque Google Chile no maneja cifras de los usuarios a nivel nacional, Alejandra Bonati, gerenta de Comunicaciones de la empresa, indica que la aplicación tiene 11 millones de usuarios activos semanalmente en el mundo y que Latinoamérica es la segunda región con más televidentes. Según explica, los videos sí pasan por un proceso de revisión humana, además de la combinación del filtrado algorítmico y feedback del usuario, quienes pueden denunciar contenido inapropiado. "Hay ocasiones en que los videos que se suben hacen un uso indebido de contenido, ya sea por ser inapropiado para un público amplio o por el uso de material que no le pertenece al creador. Nosotros trabajamos constantemente para regular este contenido y hacer de la plataforma un lugar seguro", acota sobre el incidente. Conocer quiénes están detrás de estos videos es difícil. Todo dependerá, opina Gutiérrez, de qué tan débil sea el algoritmo de YouTube Kids. De allí, explica, se podría definir si se trata de hackers que estudian el modelo de categorización de la aplicación para luego corromperlo o si se trata de usuarios comunes que, debido a un algoritmo con filtros poco potentes, abren canales y suben contenido inapropiado que no es detectado como tal.
