• Los deepfakes son utilizados para engañar, suplantar voces y caras, y llevar a cabo estafas, como fraudes bancarios o manipulaciones políticas.

• El mercado de las tecnologías de deepfake está en crecimiento, con un valor estimado de más de 550 millones de dólares en 2023 y con proyecciones de crecimiento futuro debido a la demanda de contenido visual realista en diversas industrias.

• Los casos de fraude relacionados con deepfakes se han disparado entre 2022 y 2023 en muchos países de todo el mundo, según refiere el informe anual más reciente del proveedor de verificación de identidad Sumsub.

Una amenaza que antes solía utilizarse para manipular campañas políticas y publicitarias con vídeos y rostros manipulados, ahora ha adquirido un protagonismo aún mayor, impactando en nuevas industrias como la bancaria, se trata del auge de los Deepfakes, que se han vuelto cada vez más constantes.

Imagínate que alguien descarga una imagen o un vídeo tuyo de Internet, lo pasa por una herramienta de inteligencia artificial para crear un vídeo falso con tu voz y movimientos exactos, y lo utiliza para acceder a tu cuenta bancaria, completar la autenticación biométrica y robarte todo tu dinero. Esto es ya una realidad para los delincuentes que realizan estafas. De acuerdo a un análisis de Appdome, una empresa especializada en la defensa de aplicaciones móviles, América Latina se ha convertido en un blanco atractivo para el fraude que implica la tecnología deep fake, es decir, la manipulación de imágenes con fines ilícitos.

De acuerdo a un análisis de Appdome, una empresa especializada en la defensa de aplicaciones móviles, América Latina se ha convertido en un blanco atractivo para el fraude que implica la tecnología deep fake, es decir, la manipulación de imágenes con fines ilícitos. Los países de la región están cada vez más en la mira de los delincuentes, que están a punto de intensificar los robos con tecnología deep fake. En Brasil ya se han registrado casos alarmantes, en los que particulares y empresas han perdido grandes sumas de dinero.

Las nuevas defensas combaten varios tipos de fraude al detectar los intentos de eludir Face ID cuando los delincuentes utilizan imágenes o vídeos manipulados para engañar a los sistemas de reconocimiento facial, e identifican las aplicaciones deep fake o de intercambio de caras que intentan eludir los mecanismos de verificación. Además, las soluciones bloquean las imágenes de cámaras virtuales o vídeos pregrabados utilizados durante los procesos de autenticación y reconocen los intentos de clonación de voz, protegiendo los sistemas que utilizan la tecnología ‘mi voz es mi contraseña’.

A medida que las deepfakes se extienden y las técnicas delictivas se sofistican, las empresas se enfrentan al reto de proteger los datos sensibles sin comprometer la experiencia del usuario. Para combatir esto, Appdome trabaja en soluciones que bloquean las imágenes de cámaras virtuales o vídeos pregrabados utilizados durante los procesos de autenticación y reconocen los intentos de clonación de voz, protegiendo los sistemas que utilizan la tecnología ‘mi voz es mi contraseña’. Una característica destacada es el sistema avanzado de detección de signos vitales, que va más allá de las indicaciones tradicionales como parpadear o girar la cabeza.

La rápida evolución de las tecnologías de IA ha dificultado la detección de deepfakes. Según un informe de Kaspersky, en países como Colombia, el 63% de las personas no sabe cómo identificar un deepfake, y solo el 28% puede reconocer un video falso. Este desconocimiento aumenta la vulnerabilidad de la población ante estafas y desinformación.

De hecho, se estima que el mercado de la inteligencia artificial aplicada a los deepfakes alcanzó un valor de aproximadamente 550 millones de dólares en 2023 y se proyecta un crecimiento anual compuesto del 40.5% hasta 2032. Este auge se atribuye a la demanda de publicidad personalizada y al uso de tecnologías avanzadas para crear contenido atractivo y realista.

Ahora lee: 

Coca-Cola genera el 2% del PIB en México, según estudio

La analítica mejora eficiencia en el retail, según estudio

Warner Bros Games cierra tres estudios y cancela el desarrollo de juegos