El Desafío de la Inteligencia Artificial en la Ciberseguridad
Ayer por la mañana asistí a las jornadas de ciberseguridad de Secure&IT en Madrid, donde exploramos cómo la inteligencia artificial se está utilizando para fortalecer las defensas contra los ciberdelincuentes. La expectativa inicial era escuchar sobre las nuevas capacidades defensivas de la IA en el sector. Sin embargo, lo que descubrimos fue una transformación del marco mental de la ciberseguridad. El ritmo acelerado de cambio, la sofisticación de los ataques y las nuevas herramientas basadas en algoritmos están obligando a las empresas a repensar desde cómo parchean software hasta cómo anticipan amenazas.
Francisco Valencia, director general de Secure&IT, destacó la gravedad de la situación con una afirmación tajante: “Siempre hemos dicho que en ciberseguridad estamos un paso por detrás del cibercrimen y ahora estamos 10 pasos por detrás del cibercrimen”. La clave está en cómo la IA no solo ha cambiado las herramientas, sino también el equilibrio de la partida. Según Valencia, mientras muchas compañías intentan utilizar la IA de manera segura, los ciberdelincuentes avanzan rápidamente sin las mismas restricciones.
Un punto inquietante del nuevo escenario es el uso de los Dark LLM. Estos grandes modelos de lenguaje, como FraudGPT y WormGPT, eliminan las barreras de seguridad que poseen modelos como ChatGPT, ofreciendo capacidades peligrosas. Valencia explicó también el impacto del jailbreak, que busca eludir los límites de una IA convencional utilizando contextos manipulados para lograr respuestas prohibidas.
La personalización a gran escala es otro avance preocupante. El CEO de Secure&IT lo resumió perfectamente: “No necesito mandar el spam del nigeriano a 20 millones diciendo que me he enamorado. Lanzo el mismo correo a 20 millones, pero personalizo el mensaje para cada uno”. Este tipo de ataques masivos son ahora más efectivos gracias a la capacidad de la IA para personalizar mensajes.
El término malware polimórfico también surgió durante la jornada, resaltando la sofisticación de las amenazas actuales. Se trata de software que se adapta al entorno específico de cada máquina, dificultando la detección y el análisis de ataques. La automatización por parte de la IA está reduciendo el tiempo para la defensa, complicando el proceso de identificar y neutralizar amenazas en tiempo real.
Una preocupación menos evidente pero crítica es la capacidad de fabricar bases de datos falsas, afectando la reputación de las organizaciones. Además, los ataques de envenenamiento de datos pueden alterar las respuestas de los sistemas de IA al manipular la información que consideran fiable.
El concepto de Shadow AI cobró relevancia. Los empleados ahora utilizan herramientas de IA fuera del control corporativo, creando zonas ciegas para las organizaciones. Valencia destacó que cada empleado puede usar su propia IA, lo que dificulta el seguimiento y control de la información sensible.
En busca de soluciones, Roberto Pérez presentó PHASR de Bitdefender, una propuesta que se centra en reducir la superficie de ataque según el comportamiento del usuario, en lugar de bloquear herramientas indiscriminadamente.
El mensaje final de la jornada fue claro: no existe “una solución mágica ni única”. La ciberseguridad efectiva requerirá cambios técnicos, organizativos, jurídicos y culturales. Lo que antes era suficiente, ya no lo es en la carrera actual contra el cibercrimen.