En el mundo de las redes sociales como Facebook, Instagram y Twitter es común la presencia de trolls, como se le conoce a los usuarios que se dedican a publicar (o responder) mensajes con la intención de agredir, acosar e intimidar a otras personas.

Es, sin duda, este es uno de los problemas más graves que han crecido junto a la relevancia de las plataformas sociales como uno de los principales escenarios en los que las personas interactúan y se comunican.

Y, de hecho, es un problema que busca atacar Instagram, ya que esta ha sido la causa para que varias personas (famosas y no) decidieran cerrar sus cuentas, algo que indudablemente afecta el modelo de negocio de la plataforma.

Este martes, la red social anunció que comenzará a utilizar Inteligencia Artificial (AI, por sus siglas en inglés) para detectar proactivamente el bullying en las fotografías y títulos publicados por los usuarios.

De hecho es la primera acción en el tema que dirige Adam Mosseri, nuevo jefe de Instagram, quien a través de una entrada en el blog de la compañía señaló que: “No hay lugar para la intimidación en Instagram. (…) El filtro para fotos y títulos se desplegará en las próximas semanas”.

El objetivo será implementar machine learning para comparar, clasificar y calificar imágenes y títulos, como cuando se publican una fotografía de dos personas en pantalla dividida para comparar a una de manera negativa.

De acuerdo con Instagram, se lanzará en Estados Unidos donde octubre es considerado el mes nacional de Prevención del Acoso Escolar y, posteriormente en Reino Unido, donde también se cumplirá la semana contra el acoso. Pero de funcionar se esperaría que se extienda a otros países.

No es la primera acción que emprende la red social contra este tipo de practicas, a principios de este año anuncio que filtraría comentarios que identificaran como alguna práctica de acoso para ocultarlos.

Algo similar a lo que hace Facebook que, de hecho también usa IA para detectar estas pacíficas antes de hacerlas llegar a moderadores humanos. Twitter es otra red social que reforzó su estrategia para identificar y clasificar a todas aquellas cuentas con comportamiento conocido como tipo “Troll” con el objetivo de ocultarlas o hacerlas menos visibles para los usuarios.