La red social X sigue realizando cambios que sorprenderá a todos sus usuarios. Recientemente se dio a conocer que la red social de Elon Musk, dijo que contratará a cien empleados de tiempo completo para combatir la explotación sexual infantil después de que las fotos de Taylor Swift generadas por IA se volvieran virales en la red social la semana pasada.
Twitter continúa afianzándose como una de las plataformas de redes sociales más influyentes y ampliamente utilizadas a nivel mundial. Las cifras actuales disponibles destacan su posición destacada, convirtiéndola en una herramienta esencial para la comunicación y la interacción en línea.
Las estimaciones para el año 2023 revelan un notable aumento en la base de usuarios mensuales de Twitter, superando la impresionante cifra de 340 millones. Este crecimiento es especialmente significativo al compararlo con los registros de 2019, evidenciando un aumento proyectado de 50 millones de usuarios en tan sólo cuatro años.
La plataforma se ha convertido en un espacio crucial para la difusión de información, conversaciones en tiempo real y participación en discusiones globales. Su capacidad para conectarse con audiencias diversas y ofrecer un espacio para el intercambio de ideas ha contribuido a su continua expansión y relevancia.
X contratará moderadores de contenido
La compañía con sede en San Francisco, anteriormente conocida como Twitter, anunció el viernes que construirá un “centro de confianza y seguridad” en Austin, Texas, donde contratará “agentes internos” que se encargarán de hacer cumplir el contenido y las reglas de seguridad del sitio.
“X no tiene una línea de negocios centrada en los niños, pero es importante que hagamos estas inversiones para seguir evitando que los delincuentes utilizan nuestra plataforma para cualquier distribución o interacción con contenido CSE”, dijo Joe Benarroch, jefe de operaciones comerciales de X.
Musk, que adquirió el sitio entonces conocido como Twitter por 44 mil millones de dólares a finales de 2022 con el objetivo de permitir una expresión sin restricciones, ha sido criticado por recortar la plantilla de las operaciones de confianza y seguridad de la empresa.
El jefe de X fue criticado en las últimas semanas por la proliferación de contenido antisemita y neonazi en la plataforma, lo que llevó a algunos anunciantes a abandonar el sitio.
En los últimos días, X se vio obligado a bloquear algunas búsquedas de Swift debido a que circularon en línea imágenes pornográficas falsas de la cantante.
Los intentos de buscar su nombre sin comillas en el sitio el lunes dieron como resultado un mensaje de error y un mensaje para que los usuarios volvieran a intentar su búsqueda, que agregaba: “No te preocupes, no es tu culpa”.
Sin embargo, poner comillas alrededor de su nombre permitió que aparecieran publicaciones que mencionan su nombre.
Imágenes falsas sexualmente explícitas y abusivas de Swift comenzaron a circular ampliamente la semana pasada en X, convirtiéndola en la víctima más famosa de un flagelo que las plataformas tecnológicas y los grupos anti-abuso han luchado por solucionar.
“Esta es una acción temporal y se hace con mucha precaución, ya que priorizamos la seguridad en este tema”, dijo Benarroch, jefe de operaciones comerciales de X, en un comunicado.
A diferencia de las imágenes manipuladas más convencionales que han preocupado a las celebridades en el pasado, las imágenes de Swift parecen haber sido creadas utilizando un generador de imágenes de inteligencia artificial que puede crear instantáneamente nuevas imágenes a partir de un mensaje escrito.
Después de que las imágenes comenzaron a difundirse en línea, la devota base de fans de “Swifties” de la cantante se movilizó rápidamente, lanzando una contraofensiva contra X y un hashtag #ProtectTaylorSwift para inundarlo con imágenes más positivas de la estrella del pop.
Algunos dijeron que estaban denunciando cuentas que compartían los deepfakes. El grupo de detección de deepfake Reality Defender dijo que rastreó una avalancha de material pornográfico no consensuado que representa a Swift, particularmente en X, antes conocido como Twitter.
Algunas imágenes también llegaron a Facebook, propiedad de Meta, y a otras plataformas de redes sociales. Los investigadores encontraron al menos un par de docenas de imágenes únicas generadas por IA.
Los más compartidos estaban relacionados con el fútbol y mostraban a Swift pintada o ensangrentada que la objetivaba y, en algunos casos, inflige un daño violento a su personalidad deepfake.
Las imágenes de Swift surgieron por primera vez de una campaña en curso (llamada Lewd DALL-E, que creo que deberíamos evitar) que comenzó el año pasado en plataformas marginales para producir imágenes sexualmente explícitas de mujeres famosas generadas por IA, dijo Ben Decker del grupo de inteligencia de amenazas. Memética.
Una de las imágenes de Swift que se volvió viral la semana pasada apareció en línea el 6 de enero, dijo.
La mayoría de los generadores comerciales de imágenes de IA tienen salvaguardas para evitar el abuso, pero los comentaristas en foros de mensajes anónimos discuten tácticas sobre cómo eludir la moderación, especialmente en la herramienta de conversión de texto a imagen de Microsoft Designer, dijo Decker.
“Es parte de una relación de confrontación de larga data entre trolls y plataformas”, dijo Decker.
La decisión de X de reducir las búsquedas de Swift es probablemente una medida provisional. Los investigadores han dicho que la cantidad de deepfakes explícitos ha aumentado en los últimos años, a medida que la tecnología utilizada para producir tales imágenes se ha vuelto más accesible y fácil de usar.
En 2019, un informe publicado por la empresa de inteligencia artificial DeepTrace Labs mostró que estas imágenes estaban abrumadoramente utilizadas como arma contra las mujeres.
La mayoría de las víctimas, dijo, eran actores de Hollywood y cantantes de K-pop surcoreanos. En la Unión Europea, distintas leyes nuevas incluyen disposiciones para los deepfakes.
