YouTube ha dado un paso más en su política de discurso de odio al prohibir los videos que alegan que un grupo es superior para justificar la discriminación, segregación o exclusión, basada en cualidades como edad, género, raza, casta, religión, orientación sexual o estatus de veterano.
Esto incluiría, por ejemplo, videos que promueven o glorifican la ideología nazi, que es inherentemente discriminatoria, de acuerdo a lo publicado en el blog oficial de la red social.
“Finalmente, eliminaremos el contenido que niegue que se produjeron eventos violentos bien documentados, como el Holocausto o el tiroteo en la Primaria Sandy Hook”.
En los últimos años, según la publicación, en la plataforma han estado invirtiendo en las políticas que eviten la discriminación, así como en recursos y productos necesarios para cumplir con su responsabilidad y proteger de contenido dañino a la comunidad de YouTube.
Cuatro pilares han encabezado este trabajo: eliminar el contenido violatorio, elevar el contenido autorizado, reducir la difusión del contenido límite y recompensar a los creadores de confianza.
Los videos que violan sus políticas, gracias a estas inversiones, se eliminan más rápido que nunca y los usuarios ven menos contenido límite y mala información dañina. Mientras hacen este trabajo, en la plataforma se asocian estrechamente con los legisladores y la sociedad civil de todo el mundo para limitar la difusión de contenido extremista violento en línea.
“Revisamos nuestras políticas de manera continua para asegurarnos de que estamos dibujando la línea en el lugar correcto: sólo en 2018, hicimos más de 30 actualizaciones de políticas. Una de las áreas más complejas y en constante evolución con las que tratamos es el discurso del odio”.
Además, se ha indicado que han observado de cerca su enfoque hacia el contenido odioso, en consulta con docenas y expertos en temas como el extremismo violento, el supremacismo, los derechos civiles y la libertad de expresión. En base a esos aprendizajes, han decidido hacer las actualizaciones.
Contenido límite o supremacista
Desde YouTube se ha puntualizado que siempre han tenido reglas de tránsito, incluyendo una larga política contra el discurso de odio. En 2017, la compañía presentó una postura más estricta hacia los videos con contenido supremacista, que incluyen recomendaciones y características limitadas, como comentarios y la capacidad de compartir el video.
Este paso redujo drásticamente las vistas a estos videos (en promedio 80%), según la publicación de blog. Se ha reconocido que parte de este contenido tiene valor para los investigadores y las ONG que buscan entender el odio para combatirlo y por eso están explorando opciones para ponerlo a su disposición en el futuro.
“Y, como siempre, el contexto es importante, por lo que algunos videos pueden permanecer hacia arriba porque discuten temas como la legislación pendiente, tienen como objetivo condenar o exponer el odio o proporcionar un análisis de los eventos actuales”.
Aunque se ha comenzado a aplicar esta política actualizada, se ha dejado claro que tomará tiempo para que sus sistemas se pongan por completo en marcha. Además, expandirán gradualmente la cobertura en los próximos meses para detener la discriminación.
Además de eliminar los videos que violan sus políticas, en YouTube también quieren reducir la difusión del contenido que llega hasta la línea. En enero pusieron a prueba una actualización de sus sistemas en los Estados Unidos para limitar las recomendaciones de contenido límite e información errónea dañina, como videos que promueven una cura milagrosa falsa o afirmar que la Tierra es plana.
La plataforma ha llevado este sistema actualizado a más países y, gracias a este cambio, la cantidad de visitas que este tipo de contenido obtiene de las recomendaciones se ha reducido en más del 50 % en los Estados Unidos.
Los sistemas también son más inteligentes y pueden determinar qué tipo de videos deberían recibir este tratamiento, por lo que se podrá aplicar a más videos en el límite hacia adelante.
Mientras la plataforma cumple con esto, también comenzará a elevar más contenido autoritario en recomendaciones, a partir de los cambios que hizo el año pasado en las noticias.
“Por ejemplo, si un usuario está viendo un video que está cerca de violar nuestras políticas, nuestros sistemas pueden incluir más videos de fuentes autorizadas (como los principales canales de noticias) en el panel ‘ver el siguiente’”.
Recompensando a creadores de confianza
Para YouTube es fundamental que sus sistemas de monetización recompensen a los creadores de confianza que agregan valor a la plataforma y combatan la discriminación.
Cuentan con pautas de larga duración para los anunciantes que prohíben que los anuncios se publiquen en videos que incluyan contenido detestable y las aplican rigurosamente.
“Y para proteger nuestro ecosistema de creadores, anunciantes y espectadores, ajustamos nuestros criterios de publicidad en 2017. En el caso de discursos de odio, estamos fortaleciendo la aplicación de nuestras políticas existentes del Programa de Socios de YouTube”.
También se suspenderá del programa YouTube Partner a los canales que repasan repetidamente sus políticas de odio de voz, lo que significa que no podrán publicar anuncios en su canal o usar otras funciones de monetización como Super Chat.
El equipo de YouTube ha insistido en que la apertura de la plataforma ha ayudado a que prospere la creatividad y el acceso a la información. Ha señalado que proteger eso es su responsabilidad, así como evitar que la red social se use para incitar al odio, el hostigamiento, la discriminación y la violencia.
