¿Quién se habría imaginado que en el año 2017 estaba creándose un Frankestein? A finales de ese año, un usuario de Reddit llamado deepfakes creó este término, que ahora designa como tal a la manipulación de fotos y videos mediante Machine Learning e Inteligencia Artificial utilizada para suplantar la identidad de una persona real o crear una ficticia para, entre otras cosas, cometer un fraude, principalmente financiero.
Para entonces Ian Goodfellow, uno de los 35 innovadores menores de 35 años; del MIT Technology Review de 2017 ya había causado revuelo entre sus colegas con su libro cuando ese mismo año ideó el invento que lo colocó en el panteón global de las mentes
fundamentales de la inteligencia artificial: las redes generativas antagónicas (GAN, por sus siglas en inglés), un modelo algorítmico que posibilitó, entre otras para crear algo que antes no existía.
Esa idea en la que se sustentan es tan simple como ingeniosa, pues radica en enfrentar dos redes neuronales que compiten en un constante juego de suma cero (la ganancia o pérdida de una de las redes se compensa con la ganancia o pérdida de la opuesta).
En junio de 2019, la cantidad de videos deep fake detectados por IBM era solo de 3000. En enero de 2020, esa cifra había aumentado a 100.000. En marzo de 2020 ya había más de un millón de vídeos falsos en Internet.
Esta proliferación se debe, entre otras cosas, a que tan sólo se necesitan unos pocos dólares y 8 minutos para crear un deepfake.
A diferencia de Estados Unidos y otros países de Europa, donde el deepfake ha crecido considerablemente en el último año, en México este tipo de ilícitos apareció apenas en 2023 y tan sólo en unos meses representa ya 0.5 por ciento del total de fraudes en el país, según la plataforma de verificación de identidad y cumplimiento de regulaciones Sumsub.
Esa misma fuente asegura que en Canadá la proporción de deepfakes entre todos los tipos de fraude aumentó 4 mil 500 por ciento anual al primer trimestre de 2023. En este mismo periodo, en Estados Unidos, Alemania y Reino Unido, la proporción se incrementó en mil
200, 407 y 392 por ciento anual, respectivamente.
Los sectores más afectados hasta ahora son fintech, pagos, criptomonedas y juegos de apuestas, debido a que la gran mayoría de los clientes son captados en línea sin comunicación cara a cara, explicó Sumsub.
La Inteligencia Artificial (IA) ha hecho prácticamente imposible para una persona normal distinguir entre lo falso y lo real. Ante ello, empresas de todo tipo corren ahora el riesgo de ser estafadas por fraudes sintéticos y deepfakes, lo que hace que se pregunten cómo
evitar el robo de identidad digital, comentaron voceros de la plataforma.
Por otro lado, también expresó que la IA se emplea en ataques de ingeniería social dirigidos contra la vida privada de las personas, y es probable que casos como éstos continúen en el futuro, advirtió.
En materia de fraudes financieros, el deepfake es aprovechado por la ciberdelincuencia para cometer ilícitos como suplantación de identidad, lo que conlleva a utilizar videos o audios falsos para hacerse pasar por otra persona.
En el contexto financiero, se suplanta a un cliente legítimo ante un banco o institución financiera, explicó Sumsub.
Con el deepfake también se cometen estafas de soporte técnico, donde a través de llamadas o chats de video pueden hacerse pasar por representantes de instituciones financieras para obtener información confidencial de clientes como números de tarjetas o contraseñas para realizar transacciones o exigir transferencias.
Otro tipo de fraude por deepfake es la manipulación de las grabaciones de ejecutivos que presentan informes financieros para influir de forma negativa en la percepción de los inversionistas y afectar a las compañías.
Sumsub también informó sobre la procedencia de los deepfakes:
(Participación % en 1T2023)
Reino Unido 11.8%
España 11.2
Alemania 6.7
Países Bajos 4.7
Estados Unidos 4.3
La pregunta es ¿cómo y cuándo podrá frenarse la proliferación de fraudes producto de los deepfakes que se reproducen sin control alguno?
