Una investigación de Business Insider sobre el nuevo servicio de televisión de Instagram descubrió que recomendaba una serie de videos gráficos e inquietantes, cuyo contenido parecía incluir la explotación infantil y la mutilación genital.
Business Insider pasó casi tres semanas monitoreando IGTV, el servicio de video de propiedad de Facebook que se lanzó en junio como parte de los intentos de Instagram de competir con rivales como YouTube y Snapchat . El algoritmo de IGTV recomendó contenido dudoso durante ese tiempo, incluyendo imágenes sexualmente sugerentes de chicas jóvenes y un video explícito de un pene mutilado.
Dos de los videos descubiertos por Business Insider fueron denunciados a la policía por la Sociedad Nacional para la Prevención de la Crueldad hacia los Niños, una organización benéfica para niños británica. Instagram los eliminó cinco días después de que Business Insider los informara a través del canal oficial de informes de la aplicación.
Instagram se disculpó con los usuarios que vieron los videos y dijo que quería hacer de IGTV un lugar seguro para los jóvenes.
Los hallazgos llegan en un momento en que Facebook está bajo un escrutinio extraordinario sobre contenido inapropiado en sus plataformas. Facebook e Instagram comparten un equipo de operaciones comunitarias, y la compañía de Mark Zuckerberg ha contratado a un ejército de 7.500 moderadores y está usando inteligencia artificial para silenciar mensajes que incumplen sus directrices.
A principios de este año, un ex moderador de Facebook le dijo a Business Insider que tenía que revisar 8,000 publicaciones al día y que el trabajo la hacía insensible al abuso infantil . Pero a pesar de la intensa supervisión y de los recursos que Facebook dedica a vigilar sus plataformas, el contenido perturbador parece deslizarse por la red y, como en el caso de IGTV, incluso se sugiere a los usuarios.
Instagram lanzó IGTV en junio , una movida que muchos vieron como que Facebook ingresaba al territorio de YouTube. Permite a los usuarios configurar sus propios canales y cargar videos que duran hasta una hora. Cualquier persona que tenga una cuenta de Instagram puede hacer un canal, y los usuarios pasarán de un lado a otro como lo harían a través de los canales de un televisor.
Te puede interesar: Instagram y Facebook revelarán el tiempo que pasas en tus aplicaciones
IGTV recomienda contenido de tres maneras: una pestaña For You, que reproduce videos tan pronto como abre IGTV; una sección Popular; y un menú siguiente, que ofrece videos de las personas que sigues.
Instagram no respondió las preguntas de Business Insider sobre cómo el algoritmo de IGTV recomienda ciertos videos y por qué se sugirieron videos que parecían mostrar explotación infantil. Pero parece que la sección For You recomienda cosas que gustarán a los usuarios, posiblemente en función de actividades pasadas. La pestaña Popular parece recopilar contenido de tendencias de IGTV.
Los usuarios pueden desplazarse por los videos recomendados deslizando el dedo hacia la izquierda, o IGTV reproducirá automáticamente el siguiente video. Está claramente diseñado para fomentar el desplazamiento y la visualización continua, de la misma manera que el algoritmo de YouTube recomienda contenido a través de su barra Up Next.
Business Insider monitoreó las pestañas For You y Popular durante casi tres semanas para establecer qué tipos de contenido ofrecía el algoritmo de IGTV a los usuarios.
Los videos permanecieron en línea durante cinco días. Fue solo después de que Business Insider se comunicó con la oficina de prensa de Instagram que se eliminó el contenido. En este momento, los dos videos, y otras versiones cargadas por el segundo usuario, tenían más de 1 millón de visitas.
Sin embargo, Instagram dejó las cuentas que publicaron los videos activos. Business Insider preguntó por qué se dejaron las cuentas, ya que Instagram tiene una «política de tolerancia cero» sobre el abuso infantil. Instagram dijo que la política se aplicaba al contenido y no a la cuenta que lo cargaba.
«La política de cero tolerancia de Instagram hacia el contenido de abuso infantil es la correcta, y debe garantizar que su política se aplique en la práctica», dijo una portavoz de la Sociedad Nacional para la Prevención de la Crueldad hacia los Niños. «Cuando Instagram eliminó el contenido de abuso infantil de una cuenta, esperaríamos que un moderador revisara esa cuenta para establecer si la cuenta también debería suspenderse».
A partir de esta semana, las dos cuentas permanecen activas. Siguen publicando contenido sexualmente sugerente, pero no de la misma naturaleza que los videos de «Hot Girl Follow Me» y «Patli Kamar síganme, muchachos».
La posible explotación infantil no era el único contenido cuestionable recomendado por el algoritmo de IGTV.
Uno de los primeros videos recomendados para la cuenta anónima de Business Insider, registrada con una edad de 13 años, era una grabación gráfica de un pene que se sometía a una operación que involucraba una sierra motorizada.
El pene parecía tener una tuerca de metal colocada alrededor de su centro, por encima de la cual estaba extremadamente hinchada y de color rojo oscuro. El perno estaba siendo removido con una sierra eléctrica redonda por lo que parecía ser un médico.
El video fue borrado rápidamente de IGTV luego de ser reportado por Business Insider como desnudez, aunque la cuenta que lo subió permaneció en vivo.
Otro video recomendado mostraba a un bebé tirado en el suelo, llorando inconsolablemente, con un mono parado y tocando al bebé. Los adultos estaban de pie formando un círculo, gritando mientras filmaban la escena en sus teléfonos mientras el mono les atacaba de vez en cuando.
Instagram descubrió que el video no incumplía las directrices, pero descubrió que la cuenta que lo subió estaba vinculada a una cuenta diferente que se eliminó por infringir las normas de la comunidad. Por esta razón, Instagram tomó la cuenta.
El algoritmo de IGTV generó una multitud de otras recomendaciones cuestionables. Los ejemplos incluyen un video en el que un grupo de hombres engañó a una trabajadora del sexo para que creyera que iba a ser arrestada, un video de una mujer que se sacaba algo largo y ensangrentado de la nariz y varias escenas sexualmente sugerentes.
Business Insider presentó su investigación al parlamentario Damián Collins, el legislador británico que lidera una investigación sobre información engañosa y la filtración de datos de Facebook que involucra a Cambridge Analytica. Describió los hallazgos como «muy inquietante» y dijo que las grandes compañías de tecnología necesitan invertir más en la aplicación de sus reglas.
