• Es posible que la nueva función de la red social se base en las actuales guías y lineamientos de contenido

• Twitter tiene varios recursos en los que define lo que considera un discurso de odio, y cómo lidia con él en la plataforma

• Sin embargo, The Verge teoriza que la idea es limitar tweets medianamente ofensivos y no los mensajes más incendiarios

Si bien se pueden utilizar para fines legítimos y constructivos, plataformas como Facebook, Twitter y YouTube frecuentemente son vehículos para el discurso del odio. Al resguardo de la relativa anonimidad y seguridad de cualquier red social, muchas personas se sienten con la libertad de ofender, lastimar y destruir a otros usuarios. Éste es de hecho uno de los mayores retos de la era contemporánea. Y algo a lo que estas empresas le han puesto mucha atención.

Dicho contexto sirve para dar pie a las noticias que reporta The Verge. El medio apunta que Twitter está probando una nueva función para reducir la prevalencia de mensajes ofensivos en su red social. Se trata de un mensaje automatizado que aparecerá cuando las personas estén a punto de mandar un texto que sea identificado como potencialmente ofensivo o nocivo. La idea es concientizar a la gente sobre sus publicaciones y cómo pueden afectar a los demás.

Por el momento, esta función parece que solo se está probando entre los usuarios de Apple dentro de los Estados Unidos (EEUU). La red social informó de esta prueba limitada a través de su cuenta oficial de soporte en inglés. Sin embargo, no dio muchos detalles sobre cómo se supone que funcionará esta iniciativa. Por ejemplo, no se detalló qué se va a considerar como un lenguaje ofensivo. Tampoco se dio a conocer el mensaje específico que verán las personas.

When things get heated, you may say things you don't mean. To let you rethink a reply, we’re running a limited experiment on iOS with a prompt that gives you the option to revise your reply before it’s published if it uses language that could be harmful.

— Twitter Support (@TwitterSupport) May 5, 2020

¿Responsabilidad de la red social?

No es la primera vez que una plataforma de este mercado presenta alguna iniciativa para reducir la incidencia del lenguaje de odio en su sitio. Desde 2016 que Facebook trabaja en un algoritmo que ayuda a detectar contenidos ofensivos entre los videos de su plataforma. A mediados del año pasado, Instagram lanzó una herramienta muy similar a la que acaba de proponer Twitter en su red social. Incluso YouTube ha estado al pendiente de esta temática.

Notas relacionadas

• Twitter responde a AMLO: No recibimos ingresos por bots
• AMLO va contra Twitter y Facebook: La democracia en redes sociales
• Gracias a la COVID-19, Twitter refuerza su posición como la plataforma favorita de México

Hay que volver a la iniciativa de Twitter. Esta herramienta ayudará a cimentar la imagen de la red social como una marca que se preocupa por su comunidad. A lo largo de los años ha ido agregando mensajes y sistemas para luchar contra fenómenos como la desinformación o el suicidio. Esta herramienta, si prueba ser efectiva, contribuirá a hacer su sitio un mejor lugar de convivencia. Y en parte, ayudará a que los usuarios se hagan responsables de sus actos.

Por otro lado, vale la pena preguntarse qué tan efectiva en realidad puede ser esta medida. Claro, hay usuarios en la red social que genuinamente podrían no dimensionar el tipo de daño que están causando con ciertas publicaciones. Y es entre ellos donde este proyecto tendrá el mayor efecto positivo. Sin embargo, hay que aceptar también que la mayor parte del público sabe a la perfección lo que está haciendo. Eso, en realidad, ya no cae en su responsabilidad.

El reto del contenido de odio

Más allá de quién sea la culpa de la proliferación de estos contenidos, se debe de aceptar que ninguna red social se salva de los mensajes ofensivos. En Francia, estas plataformas se vieron forzadas a eliminar, como sea, este tipo de publicaciones de sus sistemas. Twitter, desde hace unos meses, que ha ido extendiendo sus definiciones sobre lo que cataloga como discurso de odio. Y en algún momento, incluso se ha prohibido el uso de estos sitios por su alta toxicidad.

Y a pesar que se ha invertido mucho para solucionar este reto, ninguna red social parece haber encontrado una solución satisfactoria. De acuerdo con la UNESCO, se debe terminar con la impunidad de la que disfrutan aquellas personas que propagan estos mensajes por el internet. La Universidad de Pennsylvania sin embargo señala que hay muchos conflictos con la libertad de expresión. Varios estudios aún ponen sus esperanzas en los sistemas automáticos.