Lo que hace unos años podría quedarse como el argumento del guion de una serie o película, es ya un riesgo latente y cercano. Ciberseguridad e Inteligencia Artificial son dos conceptos que la industria necesita que vayan de la mano.
En el marco de la primera edición presencial de Nerdearla en México, Miguel Ángel Bravo, conocido como Mackaber, compartió con Merca2.0 su experiencia y perspectivas sobre el impacto de la inteligencia artificial (IA) en la ciberseguridad.
Con más de nueve años como programador full-stack, Bravo abordó en su charla “IA en la Seguridad Informática: Ofensiva y Defensa” cómo estas tecnologías están transformando tanto los riesgos como las oportunidades en este campo.
Al respecto, el especialista es enfático en señalar que el tema de la ciberseguridad es más relevante que nunca porque la IA no solo se ha convertido en una herramienta para mejorar defensas, sino también en un arma muy poderosa en manos equivocadas.
¿Cómo amenazan los modelos de lenguaje la seguridad informática?
Durante la charla, Bravo explicó cómo los modelos de lenguaje masivo (LLMs, por sus siglas en inglés) están cambiando las dinámicas de los ataques cibernéticos. Estas herramientas, capaces de interpretar y generar texto con gran coherencia, representan una amenaza significativa cuando son utilizadas con fines maliciosos.
“Hay dos tipos de ataques de ingeniería social muy comunes: el phishing y el spear phishing. El phishing general tiene la ventaja de ser automatizado y de gran alcance, lo que permite impactar a muchas personas, pero es relativamente fácil de detectar con alguna capacitación o conocimiento básico. En contraste, el spear phishing se enfoca en un único objetivo, lo cual lo hace más difícil de detectar, ya que suele haber una persona detrás personalizando el ataque para la víctima específica, lo cual también requiere más esfuerzo y dedicación del atacante”, explicó.
LEE TAMBIÉN. Diccionario básico de Inteligencia Artificial para mercadólogos: conceptos aplicados al marketing que DEBES saber
Mackaber explica que con el uso de LLMs, “es posible combinar la escala del phishing con la personalización del spear phishing, creando una especie de ‘spear phishing masivo'”.
Bravo detalló cómo los atacantes pueden usar herramientas de inteligencia de fuentes abiertas (OSINT) para recopilar información detallada sobre las víctimas, como su edad, empleo o dispositivo móvil. “Los LLMs pueden identificar patrones conversacionales, adaptar el tono y el lenguaje para sonar creíbles, y personalizar mensajes en función de datos específicos de una víctima, incrementando así significativamente el riesgo”.
¿Qué estrategias defensivas pueden contrarrestar estas amenazas?
Ante estos retos, Bravo subrayó que la IA no solo potencia los riesgos, sino que también ofrece herramientas efectivas para fortalecer las defensas cibernéticas. Sin embargo, destacó que estas estrategias deben combinar tecnología avanzada y supervisión humana.
Al respecto, explica que la IA tiene el potencial de detectar y corregir vulnerabilidades automáticamente. Si un sistema identifica una falla conocida, puede aplicar un parche en tiempo real, reduciendo la superficie de ataque. Esta capacidad permite una respuesta rápida y eficaz, especialmente en entornos críticos.
Otra solución clave es el red teaming, que simula ataques cibernéticos para identificar vulnerabilidades antes de que los atacantes puedan explotarlas. “En el desarrollo de software existen varias etapas, y una de las más relevantes para la seguridad es el testeo. Dentro del proceso de testeo, se emplea una estrategia conocida como red teaming, la cual puede compararse con jugar una partida de ajedrez contra uno mismo para identificar vulnerabilidades. Esta práctica es fundamental para evaluar la seguridad de los sistemas de manera integral. El testeo automático de vulnerabilidades se convierte en algo crucial para sistemas críticos”.
Bravo destacó que, con el uso de IA, estas simulaciones pueden realizarse de manera continua y más precisa, fortaleciendo los sistemas de seguridad.
El factor humano en la ecuación
Aunque la IA es una herramienta poderosa, Bravo enfatizó que no debe operar de manera autónoma. “Esto implica no dejar toda la responsabilidad de la defensa a la IA, sino garantizar que haya una persona o un equipo de personas involucradas en la toma de decisiones. Para esto, la IA puede proporcionar suficiente contexto, recopilando información y presentando posibles amenazas de una manera comprensible, lo cual permite al humano tomar decisiones más informadas”, apuntó
¿Está México preparado para enfrentar el reto?
El panorama de ciberseguridad en México presenta avances, pero también importantes desafíos. Miguel Angel Bravo refiere el Índice de Ciberseguridad Global de la UIT, en el cual México ocupa el lugar 63 de 175, lo que indica que aún hay mucho por hacer para fortalecer las defensas frente a amenazas cada vez más sofisticadas.
El phishing por correo electrónico y el smishing a través de WhatsApp son las técnicas más comunes en el país, señaló Bravo. “Es importante resaltar que estas amenazas aún no han explotado completamente el potencial de la Inteligencia Artificial, lo que indica que la situación podría empeorar si no se toman medidas preventivas adecuadas. Todos estos ataques se basan principalmente en ingeniería social para manipular a los usuarios y comprometer información sensible”.
Al respecto del smishing, consiste en el uso de mensajes fraudulentos a través de WhatsApp para engañar a las personas y obtener sus datos; en tanto el phishing, realizado a través de correos electrónicos, “tiene como objetivo engañar a los usuarios para que proporcionen información confidencial o descarguen software malicioso”.
Aunque los ataques por ahora no son tan sofisticados, para los ciberdelincuentes esto representa su área de oportunidad. “Si así estamos con las amenazas comunes, es importante considerar que los riesgos aumentarán con el uso de inteligencia artificial en ciberataques. La capacidad de la IA para automatizar y personalizar ataques hace que sea aún más crucial mejorar nuestras defensas, ya que podríamos enfrentar escenarios significativamente más complejos y difíciles de manejar”.
Nerdearla México 2024: un evento que marcó tendencia
Además de abordar temas cruciales como la ciberseguridad, Nerdearla México fue un espacio clave para identificar las tendencias más importantes en el mercado laboral tecnológico.
Durante el evento, las empresas señalaron los perfiles más buscados en la actualidad:
- Desarrolladores de software, especialmente en lenguajes como Python y JavaScript.
- Especialistas en ciberseguridad, indispensables para proteger datos y sistemas.
- Expertos en inteligencia artificial y aprendizaje automático, esenciales para innovar.
- Ingenieros de DevOps y Cloud Computing, clave para garantizar la escalabilidad de los sistemas.
Los participantes destacaron la creatividad, adaptabilidad y compromiso de los profesionales mexicanos, cualidades que los posicionan como actores clave en la industria global de tecnología.
Nerdearla continuará su expansión en Argentina y Chile. Además, en 2025, el evento tendrá lugar en España, consolidándose como el evento gratuito de tecnología y ciencia más grande de Iberoamérica.
