-
Este 30 de noviembre se celebra el Día Internacional de la Ciberseguridad y la Seguridad de la Información.
-
El 48 por cierto de las empresas e instituciones a nivel mundial han sido blanco de ataques cibernéticos al menos una vez.
-
México se encuentra entre los quince países con mayor frecuencia de ciberataques.
En medio del avance tecnológico y la creciente sofisticación de las herramientas de manipulación de contenido multimedia, el fraude deepfake ha surgido como una preocupación creciente para empresas de diversas industrias.
En ese sentido, la controversia en torno a la inteligencia artificial abarca una serie de aspectos, desde la gestión de los derechos de autor hasta el consumo energético, las inquietudes sobre la privacidad y el desempeño ocasionalmente incorrecto de chatbots como ChatGPT en respuestas a consultas. Sin embargo, hay un consenso entre críticos y defensores: la IA está cada vez más presente en diversos ámbitos de la vida digital, desde la cultura hasta los negocios y la política. Su popularización conlleva, como suele suceder con las nuevas tecnologías, un aumento en su uso indebido, como los deepfakes, generados por IA, que se hacen pasar por individuos famosos o figuras políticas para difundir desinformación o estafar a los consumidores. Este tipo de contenido artificial ya está impactando a empresas en todo el mundo.
Para este 2024, se anticipan desafíos cibernéticos en constante crecimiento, los cuales abarcan desde la proliferación del Ransomware AS Service, que ofrece modelos de ransomware como servicio para perpetradores menos experimentados, hasta la emergencia de amenazas de DeepFake, que implica manipulaciones digitales para generar contenido falso, creando así grandes riesgos de desinformación. Asimismo, se prevé un enfoque más centrado en los Ataques a la cadena de suministro, empleando estrategias de phishing para infiltrarse a través de socios y proveedores empresariales. Además, se observa un aumento de riesgos en la Creación de cuentas y el acceso a la Inteligencia Artificial, con amenazas vinculadas a la manipulación de sistemas de IA con propósitos maliciosos.
Panorama de las empresas que se ven afectadas por el fraude deepfake
Una encuesta realizada por el proveedor de verificación de identidad regula a más de 1,000 expertos en detección o prevención de fraudes en países como Estados Unidos, Reino Unido, Francia y Alemania, revela que una parte significativa de estas empresas ha sido blanco de uno de los tres métodos de fraude avanzado. El 46% de los encuestados reportaron casos de fraude de identidad sintética, donde se utilizan combinaciones de componentes de identidad reales y falsos. El 37% ha observado el uso de voces deepfake, como el caso reciente de un presidente artificial Biden que llamó automáticamente a posibles votantes para influir en las primarias. Los videos deepfakes son menos comunes hasta ahora, con solo el 29% de los encuestados que han experimentado este tipo de fraude. Sin embargo, con el enfoque creciente de las empresas de IA en la generación de imágenes en movimiento, utilizando herramientas como Sora de OpenAI, este problema podría intensificarse en los próximos meses y años.
La preocupación se refleja en la proporción de expertos encuestados que creen que estos tres métodos de fraude se convertirán en una verdadera amenaza: entre el 80% y el 90% están de acuerdo con esta evaluación. “Las identidades falsas generadas por IA pueden ser difíciles de detectar para los humanos, a menos que estén especialmente capacitados para hacerlo”, señala Ihar Kliashchou, director de tecnología de Regula. “Si bien las redes neuronales pueden ser útiles para detectar deepfakes, deberían usarse junto con otras medidas antifraude que se centren en parámetros físicos y dinámicos”.
