• En 2023 se compartieron 95 mil 820 videos deepfake en EU; State of Deepfakes.

• Se cree que suman más 500 mil videos y voces deepfakes a nivel mundial en las redes sociales; DeepMedia.

• Del 2019 al 2023, hubo un aumento del 550%  en videos deepfake; State of Deepfakes

El deepfake es la unión de las palabras inglesas profundo (deep) y falso o engañoso (fake) y sobre todo se refiere a la idea de videos, imágenes o audios generados que pueden ser profundamente engañosos, al imitar la apariencia y/o sonido de una persona. Y debido al aumento de estos contenidos en redes sociales, Meta combate el deepfake implementando una nueva estrategia en su plataforma.

Según el informe State of Deepfakes, mismo que proporciona un análisis exhaustivo del estado actual de esta tecnología, basado en un estudio de 95 mil 820 de dichos vídeos y 85 canales dedicados  a su creación y más de 100 sitios web conectados al ecosistema. Dicho informe, afirma que la cantidad de videos deepfake en línea, en 2023, fue de 95 mil 820, lo que representa un aumento del 550 por ciento con respecto al 2019.

Asimismo, según DeepMedia, una empresa especializada en la detección de estos contenidos, afirma que en 2023 se compartieron alrededor de 500 mil videos y voces deepfakes a nivel mundial en las redes sociales.

Meta combate el deepfake

Debido a los aumentos en videos, imágenes y audios “falsos”, Meta ha anunciado en su propio blog, cambios en sus reglas sobre contenidos generado por Inteligencia Artificial, para lo cual pondrá una etiqueta insignia que diga “Hecho con IA”. Asimismo, se podrá mostrar información de contexto adicional, cuando el contenido haya sido manipulado o que supongan un alto riesgo de engañar al público sobre un tema relevante.

Esta medida podría llevar al gigante de las redes sociales a etiquetar más contenidos que tienen el potencial de ser engañosos. Un poco, en resumen, Meta combate el deepfake aplicando etiquetas, siempre y cuando, el contenido en cuestión tenga “indicadores de imagen de IA estándar de la industria” o cuando la persona que haya subido el video haya revelado su contenido generado por IA.

Hasta ahora, el contenido que haya sido generado por una IA, quedará fuera de esos límites, ya que escapará a las etiquetas. También es probable que el cambio de política conduzca a que la plataforma preserve más contenidos generados por la propia IA.

Este cambio de enfoque, según Techcrunch, puede ser una respuesta a las demandas legales que enfrenta la compañía en torno a la moderación de contenido, además de enfrentar la Ley de Servicios Digitales de la Unión Europea que ha aplicado un conjunto de reglas a Facebook e Instagram, que se debaten entre purgar contenido ilegal, mitigar riesgos  y proteger la libertad de expresión.

Asimismo, Techcrunch también afirma que es bastante probable que Meta tenga en la mira las próximas elecciones presidenciales estadounidenses de noviembre. Ya que en febrero de este año, la Junta de Supervisión de Estados Unidos, instó a Meta a repensar su enfoque hacia el contenido generado por IA, después de abordar el caso de un video manipulado del presidente Biden que había sido editado para implicar un motivo sexual en un beso platónico que le dio a su nieta.

Finalmente, Meta dijo que no eliminará el contenido manipulado, ya sea basado en inteligencia artificial o manipulado de otro modo, a menos que viole las políticas que  interfieran en los votantes, que denoten intimidación, acoso, violencia e incitación, u otras cuestiones de estándares comunitarios. En cambio, como se señaló anteriormente, puede agregar “etiquetas informativas y contexto” en ciertos escenarios de alto interés público.

Uno de los ejemplos más paradigmáticos de deepfake es el que presentó la combinación entre el After Effects y la aplicación FakeApp, en donde el actor cómico Jordan Peele en conjunto con el medio BuzzFeed, mostraron un video en donde el ex Presidente de los EU, Barack Obama, hacía muchas críticas políticas fuertes. Pero a la mitad del vídeo, es posible ver al actor hablando al mismo tiempo que el supuesto Obama, hasta que la voz deja de ser parecida a la del expresidente, dejando ver que Peele, hace las veces de ventrílocuo de Obama.

Hasta la fecha, Meta es la única red social que se ha pronunciado oficialmente para combatir el deepfake, no obstante, existen algunas tecnologías y algoritmos criptográficos que pueden registrar la “huella digital” de las manipulaciones para vídeos; es similar al uso de marcas de agua en los documentos físicos.

Otra forma de neutralizar el deepfake es utilizar un programa que inserte “artefactos” digitales, especialmente diseñados en los vídeos para ocultar los patrones de píxeles que utiliza el software de detección facial. Estos ralentizan los algoritmos de deepfake y generan resultados de mala calidad, lo cual reduce las posibilidades de que se produzca un deepfake satisfactorio.

Las nuevas medidas de Meta solo parecen “combatir” el deepfake, pero de ningún modo se parará al aumento de estos contenidos en redes sociales, ni los efectos dañinos que se crean con esta tecnología.

Lee más:¿Cómo aprovechar los cupones de Walgreens? Usuario da peculiar hack

Estos son los vasos de Godzilla y Kong de Carl’s Jr

Fue a Chedraui y asustó a consumidores con extraña voz de Chabelo