Por primera vez, un paĂs ha resuelto acusaciones vinculadas a prohibiciones de contenido en una red social. AsĂ es, se trata de Tumblr, que deberá reformular sus procesos de apelaciĂłn de los usuarios de la comunidad LGBTIQ y el contenido de pornografĂa que aĂşn se publica en la red.
Según publica The Verge, la Comisión de Derechos Humanos de Nueva York y Tumblr, acordaron que la red social revise sus procedimientos para la apelación de los usuarios y que se capacite a los moderadores en temáticas relacionadas con la diversidad y la inclusión de grupos.
A la vez, está obligada a analizar centenares de miles de casos antiguos que habĂa dejado de repasar y a contratar a expertos para buscar potenciales sesgos en sus algoritmos de moderaciĂłn.
Aunque el proceso no ha involucrado una denuncia en la Justicia, el acuerdo, que fue rubricado en enero, es el primero de relevancia en el un organismo regulador ordena hacer modificaciones en las polĂticas de una red social debido a sesgos en los algoritmos.
Este caso en particular se iniciĂł en 2018 luego de que Tumblr decidiera prohibir contenidos sexuales explĂcitos y escenas de desnudez con un sistema de borrado automático que, de acuerdo con los usuarios, tenĂa numerosos errores y borraba contenido que no encajaba en esas condiciones.
El caso Tumblr
SegĂşn la ComisiĂłn de Derechos Humanos de Nueva York, tomaron el caso luego de analizar que el algoritmo estaba afectado a los usuarios LGBTIQ.
¿Por qué actuaron? El organismo respondió: “Si alguien hace negocios en la ciudad de NY, tenemos toda la autoridad para hacer investigaciones para saber si su accionar afecta a las personas”.
Las acciones de la ComisiĂłn de Derechos Humanos de Nueva York se basan en la Ley de Derechos Humanos de NY, que otorga amplias protecciones frente a prejuicios basados en categorĂas como las identidades de gĂ©nero y las orientaciones sexuales.
Según lo firmado, Tumblr tiene seis meses para contratar a expertos en temas de orientación sexual e identidad de género para que brinden capacitaciones a los moderadores humanos.
También Tumblr está obligada a contratar a gente con experiencia en estas áreas y en clasificaciones de imágenes, quienes revisarán el algoritmo de moderación de Tumblr.
Por otra parte, Tumblr tiene que volver a analizar con detenimiento tres mil casos antiguos en los que los usuarios hayan apelado una eliminaciĂłn.
La compañĂa dueña de WordPress.com, Automattic, que le comprĂł Tumblr a Verizon en 2019, ayudĂł a la ComisiĂłn de Derechos Humanos de Nueva York en el caso.
SegĂşn los analistas expertos en tecnologĂas, este caso podrĂa marcar el comienzo de una tendencia regulatoria en Estados Unidos y otros paĂses, en el que las empresas de redes sociales estĂ©n sometidas a mayores regulaciones gubernamentales.
Hay que recordar que entre las eliminaciones de Tumblr se cuentan a “Tony the tiger” (mascota de Kellogg’s), “Mary Jane” (de Spider Man) y el actor Eugene Levy (padre de Jim en American Pie).
Lee más:
Marketing digital más relaciones públicas puede ser un boom
Mercado Libre aplicará algoritmos contra precios falsos en El Buen Fin
Redes sociales y el mundo post-pandemia: ÂżTu marca sabe dominar los algoritmos?