• El crecimiento de los deepfakes ha generado preocupación en diversos ámbitos, desde el entretenimiento hasta la política, debido a las implicaciones que tienen en términos de desinformación y fraude.

• El 89% de los consumidores mexicanos temen ser víctimas de fraude mediante deepfakes, y el 60% de las personas a nivel mundial han estado expuestas a ellos en el último año.

• Se han detectado casos en los que deepfakes suplantan a figuras públicas para promover inversiones fraudulentas, especialmente en criptomonedas. 

Claudia Sheinbaum ha aprovechado una de sus mañaneras para hecho un llamado a la ciudadanía para que se mantuviera alerta ante la circulación de videos fraudulentos creados mediante Inteligencia Artificial (IA), también conocidos como deepfakes, en los cuales se manipula su voz e imagen. Estos videos, que han estado siendo utilizados para promover plataformas de inversión ilegales, incluyen menciones específicamente a Pemex, en repetidas ocasiones prometiendo rendimientos altos con inversiones mínimas.

Claudia Sheinbaum enfatizó que tales contenidos son completamente falsos, aclarando que no está promoviendo ninguna inversión relacionada con Pemex ni con ningún otro esquema. “No estoy invitando a invertir en nada, especialmente en estos fraudes relacionados con Pemex. Les pido que no se dejen engañar”, expresó, resaltando que este tipo de contenido busca generar confianza al usar su figura pública para atraer a personas incautas.

De hecho, Miguel Elorza Vásquez, coordinador del proyecto Infodemia, comentó que los videos serán sometidos a un análisis exhaustivo y serán expuestos en la próxima edición del “Detector de Mentiras”, en un esfuerzo por esclarecer su falsedad y evitar que más personas caigan en el engaño.

Desde Xataka aseguran que, no es la primera vez que Sheinbaum enfrenta el problema de los deepfakes, ya que en 2024, durante su campaña, un video falso con su voz e imagen fue difundido para promocionar una plataforma financiera fraudulenta, lo que llevó a la entonces candidata a emitir un comunicado a través de un video en vivo por Instagram.

La presidenta Claudia Sheinbaum advierte sobre estafas hechas con IA: “No estoy invitando a invertir en nada, particularmente hay una de Pemex por ahí, que mucha gente me ha preguntado en las giras. Son falsas, son mentira”, asevera. #AbriendoLaConversación #RadioFórmulaMx pic.twitter.com/pMg620myoz

— Grupo Fórmula (@Radio_Formula) February 26, 2025

Los deepfakes, que emplean algoritmos avanzados de IA y redes neuronales generativas, permiten crear contenidos altamente realistas que imitan a personas reales, lo que representa un desafío creciente para la seguridad digital y la confianza en las figuras públicas.

En ese sentido, esta tecnología se basa en técnicas de aprendizaje profundo, específicamente las redes generativas antagónicas (GANs, por sus siglas en inglés), que permiten producir contenidos sintéticos con un nivel de realismo cada vez mayor. A través de estas herramientas, es posible modificar no solo el rostro y la voz de una persona, sino también generar movimientos faciales y corporales que pueden ser casi indistinguibles de la realidad.

La creciente sofisticación de los deepfakes ha generado una preocupación significativa a nivel mundial. Según el “Estudio de Identidad en Línea de Jumio 2024”, el 89% de los consumidores mexicanos expresan inquietud diaria por ser engañados mediante deepfakes para revelar información sensible o dinero. A nivel global, el 60% de los encuestados ha estado expuesto a algún tipo de deepfake en el último año. A pesar de esta exposición, el 60% de los participantes confía en su capacidad para detectar estos contenidos falsos, lo que indica una posible sobreestimación de sus habilidades para identificar manipulaciones digitales.

Ahora lee: 

Pop Mart prepara lanzamiento de Barbie oficial de Labubu

LEGO confirma lanzamiento de dinosaurio T-Rex de esqueleto de más de un metro

La policía de Las Vegas usará Cybertrucks en su patrullaje