En un lapso de tres meses, la plataforma YouTube eliminó más de ocho millones de videos por ser contenido de odio, discriminación o abuso. La compañía espera que el machine learning le ayude a combatir el problema.
YouTube cuenta con más de mil millones de usuarios y cada día se ven en computadoras y móviles más de mil millones de horas de video, de acuerdo con datos de la compañía que es una de las propiedades de Google.
Y ese crecimiento ha generado problemas en torno al contenido que suben muchos usuarios. A mediados del año pasado, cientos de marcas, la mayoría del Reino Unido, hicieron un boicot contra YouTube porque sus anuncios aparecieron en videos que promueven el racismo, la discriminación, el odio y la violencia.
Tiempo después, quedó en evidencia una red de contenido dirigido a los niños que a través de animaciones que promueve mensajes de violencia con historias perturbadoras.
Además, una investigación del Times descubrió que existen alrededor de cien mil cuentas de depredadores sexuales que escriben comentarios de acoso en videos donde aparecen niñas y adolescentes en actividades como gimnasia o ejercicios.
YouTube ha dicho que endureció sus medidas para eliminar el contenido nocivo de la plataforma y esta semana presentó algunos avances.
La compañía dice que durante el último trimestre del año pasado eliminó 8 millones 284 mil videos que no cumplían con los lineamientos de la comunidad. Son más de 90 mil cada día. YouTube indica que más de seis millones fueron borrados gracias a la detección automática.
YouTube asegura que el 75 por ciento de los videos eliminados no fueron vistos y que los países con más denuncias son India, Estados Unidos, Brasil, Rusia, Alemania, Reino Unido y México.
Las principales razones por las que las personas denuncian videos en YouTube son contenido sexual (30.1 por ciento), spam (26.4), mensajes de odio (15.6), violencia o repulsión (13.5), actos peligrosos (7.6), abuso infantil (5.2) y promoción del terrorismo (1.6).
YouTube asegura que las tecnologías de machine learning están ayudando a los humanos a remover videos cinco veces más rápido que antes.
La enorme cantidad de videos que son removidos de YouTube son una alerta de lo que ocurre en las plataformas digitales, que han incrementado el alcance de las personas con mensajes odio, discriminación y abuso contra minorías, extranjeros y menores de edad.
