La inteligencia artificial ofensiva ha dejado de ser una amenaza futura para convertirse en una herramienta integrada en campañas reales de ciberdelincuentes y actores estatales. Así lo advierte el Centro Criptológico Nacional, dependiente del Centro Nacional de Inteligencia, en su nueva guía Buenas prácticas frente al modelo de IA ofensiva.
El documento analiza cómo la IA está transformando el panorama de amenazas y propone medidas para reforzar la protección de organismos públicos y empresas. Su principal conclusión es que estas tecnologías no sustituyen necesariamente a las técnicas de ataque tradicionales, sino que las hacen más rápidas, escalables, precisas y accesibles.
La IA permite automatizar tareas que antes requerían más tiempo, conocimientos técnicos y recursos. Esto reduce las barreras de entrada para los atacantes y acorta los plazos de reacción de las organizaciones, que pueden enfrentarse a campañas más personalizadas y difíciles de detectar.
La IA multiplica las capacidades de los atacantes
Según el CCN, el principal impacto de la inteligencia artificial en el ámbito ofensivo es su capacidad para amplificar técnicas ya conocidas.
Los atacantes pueden utilizar modelos de IA para generar correos de phishing adaptados a cada víctima, imitar voces y rostros mediante deepfakes, producir código malicioso o buscar vulnerabilidades de forma automatizada.
También pueden analizar grandes cantidades de información pública para identificar empleados, proveedores, sistemas expuestos y relaciones internas dentro de una organización. Este reconocimiento facilita la preparación de campañas de ingeniería social mucho más creíbles.
Un mensaje fraudulento ya no tiene por qué incluir errores gramaticales o expresiones poco naturales. La IA puede redactarlo en varios idiomas, ajustar el tono al perfil de la víctima y añadir referencias a proyectos, compañeros o situaciones reales.
El resultado es un ataque más convincente, rápido y barato.
Phishing avanzado, deepfakes y malware generado con IA
La guía identifica varias amenazas especialmente relevantes. Entre ellas destaca el phishing avanzado, que aprovecha la capacidad de los modelos generativos para crear comunicaciones personalizadas a gran escala.
Los deepfakes representan otro riesgo creciente. La clonación de voz o la generación de vídeos falsos puede utilizarse para hacerse pasar por directivos, responsables financieros o proveedores y ordenar transferencias, solicitar credenciales o conseguir acceso a información sensible.
La IA también puede ayudar a generar malware y exploits. Aunque estas herramientas no siempre producen código sofisticado desde cero, sí pueden asistir a los atacantes en la modificación de programas, la búsqueda de errores y la adaptación del malware para intentar eludir las defensas.
A estos riesgos se suman la ingeniería social automatizada y los ataques dirigidos contra los propios sistemas de inteligencia artificial. Entre ellos se encuentran la manipulación de instrucciones, el robo de datos utilizados por los modelos o el abuso de agentes con acceso a aplicaciones y recursos internos.
El sector público, especialmente expuesto
El CCN considera que esta evolución tiene una importancia especial para las administraciones públicas.
Los organismos gestionan información sensible y servicios esenciales, y dependen de una amplia red de proveedores, sistemas tecnológicos y operadores externos. Además, la conexión entre redes informáticas tradicionales y entornos operativos amplía la superficie de ataque.
La automatización ofensiva puede reducir considerablemente el tiempo entre la identificación de una vulnerabilidad y su explotación. Una organización que antes disponía de días para responder puede encontrarse ahora con ataques lanzados en cuestión de horas.
Este escenario obliga a mejorar la coordinación, la trazabilidad y la capacidad de reacción. También exige conocer con precisión qué sistemas están conectados, qué identidades tienen acceso y qué dependencias existen con terceros.
Volver a reforzar los controles básicos
Frente a este nuevo panorama, el CCN plantea una estrategia basada en cuatro fundamentos.
El primero consiste en reforzar los controles esenciales. La gestión de identidades, el control de accesos, la segmentación de redes y la monitorización continua siguen siendo fundamentales, aunque las amenazas incorporen tecnologías avanzadas.
Una contraseña débil, una cuenta con permisos excesivos o una red sin segmentar continúan siendo oportunidades para los atacantes. La IA puede facilitar su explotación, pero el problema de base sigue siendo una protección insuficiente.
El segundo fundamento es transformar los procesos de IT y OT para integrar la seguridad desde el diseño. Esto implica evaluar los riesgos antes de desplegar nuevas herramientas, limitar los accesos y evitar que los sistemas críticos dependan de configuraciones inseguras.
El tercero consiste en construir entornos resilientes y seguros por defecto. Las organizaciones deben asumir que un incidente puede producirse y prepararse para mantener los servicios, contener el ataque y recuperar los sistemas.
Usar inteligencia artificial para defenderse
El cuarto pilar es aprovechar la propia inteligencia artificial como capacidad defensiva.
La IA puede ayudar a detectar comportamientos anómalos, analizar alertas, priorizar vulnerabilidades y automatizar algunas respuestas. Sin embargo, el CCN insiste en que este uso debe estar gobernado y sometido a supervisión humana.
Los agentes de IA no deberían actuar sin límites claros en entornos sensibles. Cada acción debe quedar registrada y existir mecanismos para revisar decisiones, detener procesos y asumir el control cuando sea necesario.
La guía también recomienda acelerar la gestión de vulnerabilidades, proteger la cadena de suministro y establecer normas específicas para el uso de sistemas de IA.
Una hoja de ruta progresiva
El CCN propone avanzar por fases. Los primeros pasos deben centrarse en corregir brechas básicas, como sistemas sin actualizar, accesos innecesarios o activos que no están inventariados.
La siguiente etapa consiste en rediseñar los procesos para responder al ritmo de las amenazas automatizadas. Esto requiere mejores herramientas, procedimientos más ágiles y una colaboración estrecha entre equipos técnicos, responsables de seguridad y dirección.
El objetivo final es avanzar hacia una ciberseguridad agéntica, en la que agentes defensivos ayuden a detectar y responder a los ataques, pero siempre dentro de marcos de control y con intervención humana.
La publicación del CCN deja un mensaje claro: la inteligencia artificial ofensiva ya forma parte del panorama actual de amenazas. Las organizaciones no pueden esperar a que estas técnicas se generalicen aún más. Reforzar los controles, gobernar la IA y preparar sistemas resilientes se ha convertido en una necesidad inmediata.
