- El algoritmo de Twitter que hace reconocimientos faciales supuestamente le da preferencia a las pieles blancas al momento de ofrecer un preview.
- El experimento de un usuario usó los rostros de Barack Obama, expresidente de los Estados Unidos, y Mitch McConnell, senador republicano.
- Sin embargo, una prueba del investigador Vinay Prabhu de la Universidad Carnegie Mellon encontró resultados opuestos.
Tony Arcieri es un usuario de Twitter que llevó a cabo un experimento en el que llegó a una conclusión: el algoritmo de Twitter supuestamente favorece a las personas de piel blanca. El experimento consistió en publicar varias imágenes que mostraban a Barack Obama, expresidente de los Estados Unidos, y a Mitch McConnell, senador republicano. El problema surgió cuando el rostro de McConnell fue el único en abrirse paso en la “preview” de la imagen.
Después de esa prueba otros usuarios comenzaron a hacer pruebas similares y encontraron que el red social le daba preferencia en la mayoría de los casos a los relatos de personas de piel banca.
Trying a horrible experiment…
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
— Tony “Abolish (Pol)ICE” Arcieri ? (@bascule) September 19, 2020
“Gracias a todos aquellos que habéis sacado a colación este modelo. Examinamos potenciales prejuicios antes de implementar nuestra inteligencia artificial y no encontramos evidencia alguna de discriminación en cuanto a la raza y el género, pero es obvio que tenemos que emprender más análisis. Publicaremos nuestros trabajos en este ámbito en modalidad ‘open source’ para que otros puedan evaluarlos y replicarlos”, dice Liz Kelly, portavoz de la empresa.
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— – M A R K – (@MarkEMarkAU) September 20, 2020
Sin embargo, afirmar que un algoritmo es racista es algo aventurado. El investigador Vinay Prabhu de la Universidad Carnegie Mellon encontró que, de un test repetido con 92 pares de imágenes, en 52 de ellas se seleccionó el rostro negro. Esto es, cerca de un 57% de las veces, es decir, se eligió mayor cantidad de veces que los rostros de piel blanca.
En 2018, Twitter explicó en su blog que al momento de elegir una porción de imagen en lugar de otra lo hace con base en el alto nivel de contraste, detalle que podría explicar por qué los algoritmos eligen los rostros de personas de raza blanca.
También te puede interesar:
Publicista: estas son las 5 habilidades que debes poseer en 2020 y los siguientes años
Líderes del pasado ofrecen 6 enseñanzas para líderes del presente
Página web: cualidades que debe tener una (¿la tuya cumple con todo?)
La verdadera importancia: los discursos de odio
Dejando de lado si un algoritmo es capaz de hacer un sesgo entre pieles blancas o negras, lo que es importante recalcar son los contenidos de odio que imperan en las redes sociales. Esto ha sido tema de polémica en los años más recientes y motivo de protestas de todo tipo. Desde que las redes sociales se convirtieron en lo que hoy conocemos, han proliferado mensajes, imágenes o grupos que se dedican a esparcir ideologías que buscan afectar a determinados grupos vulnerables o minoritarios.
“Las redes sociales están envalentonando a la gente para que cruce los límites y se comporte de manera extrema respecto a lo que está dispuesta a decir para provocar e incitar a otros”, comentó para el New York Times Jonathan Albright, director de investigación en el Centro Tow para el Periodismo Digital de la Universidad de Columbia. “Está claro que el problema está creciendo”.
Al respecto, la gran mayoría de las redes sociales más importantes como Facebook, Twitter, Instagram o YouTube han comenzado a hacer más claras y rígidas sus políticas para frenar mensajes que inciten al repudio de ciertos grupos humanos o el acosos cibernético. Sin embargo, parece que aún no es suficiente: recordemos que apenas hace tres meses, marcas de prestigio unieron fuerzas para retirar sus anuncios de publicidad en Facebook. Lo anterior como protesta ante la incapacidad de la red social de crear políticas que acaben con el problema.
